Seorang pengembang telah membuka sumber Speakrail, agen suara full-duplex sepenuhnya lokal yang berjalan pada satu RTX 4090 dan menyaingi GPT-Live pada beberapa benchmark. Sistem ini menggabungkan Voxtral Realtime untuk speech-to-text, model Gemma 4 12B yang di-fine-tune dengan microturn, dan Breeze TTS 2 untuk memungkinkan interaksi berlatensi rendah dengan interupsi dan backchannel.
- Pipeline menggunakan kepala turn-taking yang melekat pada Voxtral Realtime dan pemfiring LLM+TTS spekulatif untuk meminimalkan latensi.
- Model bahasa inti adalah Gemma 4 12B QAT, yang di-fine-tune pada data sintetis dengan token kontrol microturn seperti <interject> dan <listen>.
- Mekanisme "berpikir sambil berbicara" memungkinkan Gemma 4 12B int4 dasar menulis catatan pemikiran untuk tugas penalaran kompleks.
- Sistem mendukung mode senyap dan mode interupsi, memungkinkan model mendengarkan atau berbicara berdasarkan kontrol eksplisit pengguna.
Rilis ini menyediakan alternatif yang menjaga privasi dari asisten suara berbasis cloud bagi pengguna dengan perangkat keras lokal yang memadai, meskipun saat ini memiliki keterbatasan terkait panjang konteks dan lisensi komersial komponen TTS.