El proyecto audio.cpp ha lanzado la versión 0.3, introduciendo cinco nuevos modelos de texto a voz: Supertonic 3, MOSS-TTS-Local, MOSS-TTS-Nano, IndexTTS2 e Irodori-TTS. La actualización también añade soporte GGUF, que se implementará modelo por modelo.
- Supertonic 3 alcanza una velocidad superior a 200x en tiempo real en CUDA (RTX 5090) y aproximadamente 47 ms de TTFT en modo de streaming.
- Una demo generó 10 horas de audio de Las aventuras de Sherlock Holmes en unos 3 minutos en una RTX 5090.
- Supertonic 3 es significativamente más rápido que la implementación oficial de ONNX porque evita enviar nodos de vuelta a la CPU.
- IndexTTS2 muestra una aceleración de 5.65x sobre Python para entradas de formato largo (texto de 6000 caracteres + emoción de 2400 caracteres) en CUDA.
- Otros nuevos modelos varían desde velocidades similares hasta más de 2x más rápido dependiendo del caso de prueba.
El lanzamiento destaca importantes ganancias de rendimiento para la inferencia C++/GGML en comparación con las implementaciones en Python, particularmente en hardware GPU.