audio.cpp añade soporte de streaming y Nemotron 3.5 ASR

El proyecto audio.cpp ha actualizado su framework nativo C++/GGML para incluir soporte inicial de streaming para reconocimiento y síntesis de voz, junto con cuatro nuevos modelos ASR/STT: Nemotron 3.5 ASR, Higgs Audio STT, VibeVoice ASR y Hviske ASR.

• Nemotron ASR transcribió un archivo de audio de 327.6s en 2.17s fuera de línea en una RTX 5090 con un WER del 3.18%, mientras que su ruta de streaming SSE logró el mismo WER con un TTFT de 307ms y un VRAM pico significativamente menor.
• VibeVoice ASR registró el WER más bajo (0.66%) pero requirió sustancialmente más VRAM (25833M) en comparación con Nemotron.
• Las capacidades de streaming se implementaron para Nemotron ASR (vía SSE) y VoxCPM2 TTS, mientras que el streaming de Higgs Audio STT se marca como experimental.
• La actualización tiene como objetivo proporcionar un framework de audio local unificado que evite la necesidad de entornos Python separados para cada modelo.

El autor destaca la fuerte compensación entre velocidad y VRAM de Nemotron ASR, lo que lo hace particularmente adecuado para el uso en servicios ASR locales e invita a contribuciones para mejorar las APIs de streaming y la programación de fragmentos.