Un développeur a créé une application Android qui exécute le modèle Qwen3TTS 0.6B localement sur des appareils mobiles. L'application utilise un backend C++ personnalisé basé sur GGML pour permettre le traitement de la synthèse vocale sans dépendance au cloud.
- La démo atteint environ 0,5x la vitesse temps réel sur un CPU Galaxy S25, avec des performances variant selon la longueur du texte.
- Le moteur d'inférence sous-jacent est fourni par le dépôt qwen3-tts.cpp.
- L'accélération GPU Vulkan n'a pas été implémentée en raison de problèmes de compatibilité avec les noyaux Qualcomm Adreno.
Le projet sert de démonstration fonctionnelle pour exécuter Qwen3 TTS sur du matériel Android.