Проект audio.cpp выпустил версию 0.3, представив пять новых моделей преобразования текста в речь: Supertonic 3, MOSS-TTS-Local, MOSS-TTS-Nano, IndexTTS2 и Irodori-TTS. Обновление также добавляет поддержку GGUF, которая будет внедряться модель за моделью.
- Supertonic 3 достигает скорости более чем в 200 раз быстрее реального времени на CUDA (RTX 5090) и примерно 47 мс TTFT в режиме потоковой передачи.
- Демо-версия сгенерировала 10 часов аудио по книге «Приключения Шерлока Холмса» примерно за 3 минуты на RTX 5090.
- Supertonic 3 значительно быстрее официальной реализации ONNX, поскольку избегает отправки узлов обратно на CPU.
- IndexTTS2 показывает ускорение в 5.65 раза по сравнению с Python для длинных входных данных (текст из 6000 символов + эмоция из 2400 символов) на CUDA.
- Другие новые модели варьируются от сопоставимой скорости до более чем в 2 раза быстрее в зависимости от тестового случая.
Выпуск подчеркивает существенный прирост производительности для вывода C++/GGML по сравнению с реализациями на Python, особенно на аппаратном обеспечении GPU.