Le projet audio.cpp a publié la version 0.3, introduisant cinq nouveaux modèles de synthèse vocale : Supertonic 3, MOSS-TTS-Local, MOSS-TTS-Nano, IndexTTS2 et Irodori-TTS. La mise à jour ajoute également le support GGUF, qui sera déployé modèle par modèle.
- Supertonic 3 atteint une vitesse supérieure à 200x en temps réel sur CUDA (RTX 5090) et environ 47 ms de TTFT en mode streaming.
- Une démo a généré 10 heures d'audio à partir des Aventures de Sherlock Holmes en environ 3 minutes sur une RTX 5090.
- Supertonic 3 est nettement plus rapide que l'implémentation ONNX officielle car il évite de renvoyer les nœuds vers le CPU.
- IndexTTS2 montre un gain de vitesse de 5,65x par rapport à Python pour les entrées longues (texte de 6000 caractères + émotion de 2400 caractères) sur CUDA.
- Les autres nouveaux modèles offrent des vitesses allant du même ordre à plus de 2x plus rapides selon le cas de test.
La mise en avant de cette version souligne d'importants gains de performance pour l'inférence C++/GGML par rapport aux implémentations Python, particulièrement sur le matériel GPU.