開発者がオンデバイスQwen3 TTS推論用のAndroidアプリを構築

ある開発者は、モバイルデバイス上でQwen3TTS 0.6Bモデルをローカルで実行するAndroidアプリケーションを作成しました。このアプリは、クラウドへの依存なしにテキストから音声への変換処理を可能にするために、カスタムGGMLベースのC++バックエンドを利用しています。

• デモではGalaxy S25 CPU上でリアルタイム速度の約0.5倍を達成し、パフォーマンスはテキストの長さに応じて変動します。
• 基盤となる推論エンジンはqwen3-tts.cppリポジトリによって提供されています。
• Qualcomm Adrenoカーネルとの互換性の問題により、Vulkan GPUアクセラレーションは実装されませんでした。

このプロジェクトは、AndroidハードウェアでQwen3 TTSを実行するための機能的なショーケースとして機能します。