audio.cpp 0.3 menambahkan Supertonic 3, MOSS-TTS, IndexTTS2, dan Irodori-TTS dengan dukungan GGUF

Proyek audio.cpp telah merilis versi 0.3, memperkenalkan lima model teks-ke-suara baru: Supertonic 3, MOSS-TTS-Local, MOSS-TTS-Nano, IndexTTS2, dan Irodori-TTS. Pembaruan ini juga menambahkan dukungan GGUF, yang akan dirilis model demi model.

• Supertonic 3 mencapai kecepatan lebih dari 200x waktu nyata pada CUDA (RTX 5090) dan sekitar 47 ms TTFT dalam mode streaming.
• Demo menghasilkan 10 jam audio dari The Adventures of Sherlock Holmes dalam sekitar 3 menit pada RTX 5090.
• Supertonic 3 jauh lebih cepat daripada implementasi ONNX resmi karena menghindari pengiriman node kembali ke CPU.
• IndexTTS2 menunjukkan percepatan 5,65x dibandingkan Python untuk input bentuk panjang (teks 6000 karakter + emosi 2400 karakter) pada CUDA.
• Model baru lainnya memiliki kecepatan mulai dari serupa hingga lebih dari 2x lebih cepat tergantung kasus uji.

Rilis ini menyoroti peningkatan kinerja substansial untuk inferensi C++/GGML dibandingkan implementasi Python, khususnya pada perangkat keras GPU.