एक डेवलपर ने Speakrail को ओपन-सोर्स किया, जो एक पूर्ण-स्थानीय, फुल-डुप्लेक्स वॉइस एजेंट है जो एक अकेले RTX 4090 पर चलता है और कुछ बेंचमार्क पर GPT-Live से टक्कर देता है। सिस्टम स्पीच-टू-टेक्स्ट के लिए Voxtral Realtime, माइक्रोटर्न-फाइनट्यूंड Gemma 4 12B मॉडल, और Breeze TTS 2 को जोड़कर विघ्न और बैकचैनल्स के साथ कम विलंबता वाली अंतःक्रियाओं को सक्षम बनाता है।
- पाइपलाइन में Voxtral Realtime से जुड़ा एक टर्न-टेकिंग हेड और लैटेंसी को कम करने के लिए स्पेकुलेटिव LLM+TTS फायरिंग का उपयोग होता है।
- मुख्य भाषा मॉडल Gemma 4 12B QAT है, जिसमें <interject> और <listen> जैसे माइक्रोटर्न कंट्रोल टोकन के साथ सिंथेटिक डेटा पर फाइनट्यूनिंग की गई है।
- एक "थिंक व्हाइल टॉकिंग" तंत्र आधारित Gemma 4 12B int4 को जटिल तर्क कार्यों के लिए सोचने के नोट्स लिखने की अनुमति देता है।
- सिस्टम क्विएट मोड और इंटरप्ट मोड का समर्थन करता है, जिससे मॉडल स्पष्ट उपयोगकर्ता नियंत्रण के आधार पर सुन या बोल सकता है।
रिलीज पर्याप्त स्थानीय हार्डवेयर वाले उपयोगकर्ताओं के लिए क्लाउड-आधारित वॉइस सहायकों के लिए एक गोपनीयता-संरक्षित विकल्प प्रदान करती है, हालाँकि इसमें वर्तमान में संदर्भ लंबाई और TTS घटक के वाणिज्यिक लाइसेंसिंग संबंधी सीमाएँ हैं।