audio.cpp 项目发布了 0.3 版本，引入了五种新的文本转语音模型：Supertonic 3、MOSS-TTS-Local、MOSS-TTS-Nano、IndexTTS2 和 Irodori-TTS。此次更新还增加了 GGUF 支持，将逐个模型推出。

  • Supertonic 3 在 CUDA (RTX 5090) 上实现超过 200 倍实时速度，流式模式下 TTFT 约为 47 毫秒。
  • 演示版在 RTX 5090 上用约 3 分钟生成了《福尔摩斯冒险记》的 10 小时音频。
  • Supertonic 3 比官方 ONNX 实现快得多，因为它避免了将节点发送回 CPU。
  • IndexTTS2 在 CUDA 上针对长输入（6000 字符文本 + 2400 字符情感）相比 Python 实现了 5.65 倍加速。
  • 其他新模型的速度因测试用例而异，从相似速度到快 2 倍以上不等。

此次发布强调了 C++/GGML 推理相比 Python 实现在性能上的显著提升，特别是在 GPU 硬件上。