audio.cpp 프로젝트가 버전 0.3을 출시하며 다섯 가지 새로운 텍스트 음성 변환 모델을 도입했습니다: Supertonic 3, MOSS-TTS-Local, MOSS-TTS-Nano, IndexTTS2, Irodori-TTS. 이번 업데이트에서는 GGUF 지원도 추가되었으며, 모델별로 순차적으로 적용될 예정입니다.

  • Supertonic 3은 CUDA(RTX 5090)에서 실시간 대비 200배 이상의 속도를 달성하며, 스트리밍 모드에서는 약 47 ms의 TTFT를 보입니다.
  • 데모에서는 RTX 5090에서 '셜록 홈즈 모험담'으로부터 10시간 분량의 오디오를 약 3분 만에 생성했습니다.
  • Supertonic 3은 노드를 CPU로 다시 보내지 않기 때문에 공식 ONNX 구현보다 훨씬 빠릅니다.
  • IndexTTS2는 CUDA에서 Python 대비 5.65배의 속도 향상을 보입니다(장문 입력: 6000자 텍스트 + 2400자 감정).
  • 기타 신규 모델은 테스트 케이스에 따라 유사한 속도부터 2배 이상 빠른 속도까지 다양합니다.

이번 릴리스는 C++/GGML 추론이 Python 구현 대비, 특히 GPU 하드웨어에서 상당한 성능 향상을 이루었음을 강조합니다.