audio.cpp प्रोजेक्ट ने संस्करण 0.3 जारी किया है, जिसमें पाँच नए टेक्स्ट-टू-स्पिच मॉडल शामिल हैं: Supertonic 3, MOSS-TTS-Local, MOSS-TTS-Nano, IndexTTS2 और Irodori-TTS। अपडेट में GGUF सपोर्ट भी जोड़ा गया है, जिसे मॉडल के अनुसार लागू किया जाएगा।
- Supertonic 3 CUDA (RTX 5090) पर रियल-टाइम से 200x से अधिक गति प्राप्त करता है और स्ट्रीमिंग मोड में लगभग 47 ms TTFT देता है।
- एक डेमो ने RTX 5090 पर शर्लक होम्स की साहसिक गाथाओं से 10 घंटे का ऑडियो लगभग 3 मिनट में जनरेट किया।
- Supertonic 3 आधिकारिक ONNX इंप्लीमेंटेशन की तुलना में काफी तेज़ है क्योंकि यह नोड्स को CPU पर वापस भेजने से बचता है।
- IndexTTS2 लंबे इनपुट (6000-अक्षर का टेक्स्ट + 2400-अक्षर की भावना) के लिए CUDA पर Python की तुलना में 5.65x गति बढ़ाव दिखाता है।
- अन्य नए मॉडल टेस्ट केस के आधार पर समान गति से लेकर 2x से अधिक तेज़ तक होते हैं।
रिलीज में Python इंप्लीमेंटेशन की तुलना में C++/GGML इनफरेंस के लिए प्रदर्शन में महत्वपूर्ण वृद्धि को हाइलाइट किया गया है, विशेष रूप से GPU हार्डवेयर पर।