audio.cppプロジェクトはバージョン0.3をリリースし、5つの新しいテキスト音声変換モデル（Supertonic 3、MOSS-TTS-Local、MOSS-TTS-Nano、IndexTTS2、Irodori-TTS）を導入しました。このアップデートではGGUFサポートも追加され、モデルごとに順次展開されます。

  • Supertonic 3はCUDA（RTX 5090）上でリアルタイムの200倍以上の速度を達成し、ストリーミングモードでは約47 msのTTFTを実現します。
  • デモでは、RTX 5090上で『シャーロック・ホームズの冒険』から10時間分のオーディオを約3分で生成しました。
  • Supertonic 3はノードをCPUに戻す処理を回避するため、公式ONNX実装よりも大幅に高速です。
  • IndexTTS2はCUDA上でPythonに対して5.65倍の高速化を実現します（長時間入力：6000文字のテキスト＋2400文字の感情）。
  • その他の新モデルは、テストケースに応じて同等の速度から2倍以上の高速化まで様々です。

今回のリリースでは、C++/GGML推論がPython実装と比較して、特にGPUハードウェア上で大幅なパフォーマンス向上を実現したことが強調されています。