أصدر مشروع audio.cpp الإصدار 0.3، مقدمًا خمسة نماذج جديدة لتحويل النص إلى كلام: Supertonic 3 وMOSS-TTS-Local وMOSS-TTS-Nano وIndexTTS2 وIrodori-TTS. تضيف التحديث أيضًا دعم GGUF، والذي سيتم طرحه نموذجًا تلو الآخر.
- يحقق Supertonic 3 سرعة تزيد عن 200 ضعف الوقت الحقيقي على CUDA (RTX 5090) وحوالي 47 مللي ثانية من TTFT في وضع البث.
- أنتج عرض توضيحي 10 ساعات من الصوت من مغامرات شيرلوك هولمز في حوالي 3 دقائق على RTX 5090.
- Supertonic 3 أسرع بشكل ملحوظ من التنفيذ الرسمي لـ ONNX لأنه يتجنب إرسال العقد مرة أخرى إلى وحدة المعالجة المركزية.
- يُظهر IndexTTS2 تسارعًا بنسبة 5.65x مقارنة بـ Python للإطارات طويلة المدى (نص 6000 حرف + عاطفة 2400 حرف) على CUDA.
- تتراوح سرعات النماذج الجديدة الأخرى من سرعة مماثلة إلى أسرع بأكثر من ضعفين اعتمادًا على حالة الاختبار.
تسلط النسخة الضوء على مكاسب أداء كبيرة للاستنتاج باستخدام C++/GGML مقارنة بالتطبيقات الخاصة بـ Python، لا سيما على عتاد GPU.