Um desenvolvedor lançou uma implementação C++ otimizada do Qwen3-TTS, alcançando aproximadamente 5x a velocidade em tempo real em uma RTX 5080, juntamente com uma GUI de desktop multiplataforma construída com Kotlin Compose Multiplatform. O projeto fornece inferência baseada em GGML que suporta execução de CPU e CUDA no Windows e Linux.
- O desempenho é relatado como 15x mais rápido que a implementação de referência Python.
- Suporta tamanhos de modelo de 0.6B e 1.7B, incluindo modelos base para clonagem de voz.
- Apresenta recursos de design de voz personalizada e suporte a instruções.
- Permite salvar, misturar e mesclar embeddings de locutor.
- Inclui saída em streaming com destaque de texto semi-preciso.
- Fornece opções de download para modelos GGUF pré-conversados do Hugging Face.
Este lançamento permite que os usuários executem o Qwen3-TTS localmente com velocidade significativamente melhorada e uma interface amigável, facilitando a clonagem e síntese de voz sem depender do ambiente Python original.