llama.cpp 项目发布了 b10270 版本,引入了对 Qwen3-TTS 模型的支持。此更新包括对 llama-tts 二进制文件的破坏性更改,并实施了重要的架构修改以处理新的文本转语音工作流。

  • 添加了对转换和加载 Qwen3-TTS 组件的支持,包括主模型、编码器、说话人编码器和 code_predictor。
  • 引入了新的 mtmd gen API,并将 CODE2WAV 组件重命名为 GEN_WAV。
  • 实现了语音克隆功能,并在调用之间保留键值状态以提高连续性。
  • 添加了 llama_model_get_tok_embd 和 mtmd_helper_gen_audio API 以增强模型交互。
  • 包括安全修复、文档更新以及对 macOS、Linux、Windows 和 Android 上各种硬件后端的支持。