लेखक ने Dev-4B जारी किया, जो Qwen3-4B-Instruct पर आधारित एक छोटा स्थानीय मॉडल है जो दस्तावेज़ों के बारे में टाइप किए गए प्रश्नों का उत्तर कैलिब्रेटेड आत्मविश्वास के साथ देता है। यह एक इनबिल्ट राउटर का उपयोग करता है यह तय करने के लिए कि क्या एक तेज़ उत्तर दिया जाए या केवल तभी चरण-दर-चरण तर्क पर स्केल किया जाए जब प्रारंभिक पूर्वानुमान संभवतः गलत हो।
- 7,100 फ्रोजन टेस्ट प्रश्नों पर मूल्यांकन करने पर, Dev-4B ने प्रति प्रश्न 1.37 सेकंड में 81.8% सटीकता हासिल की।
- यह हमेशा तेज़ उत्तरों (76.3%, 0.16 s/प्रश्न) और हमेशा तर्क करने वाले दृष्टिकोणों (78.0%, 10.2 s/प्रश्न) से बेहतर है।
- मॉडल प्रश्नों के लिए सक्रिय किए गए एक LoRA एडाप्टर और एक छोटे राउटर का उपयोग करता है, जिसके साथ MLX 8-bit बिल्ड्स उपलब्ध हैं।
यह टूल स्थानीय कैलिब्रेशन और ऑफलाइन राउटिंग प्रयोगों के लिए डिज़ाइन किया गया है, विशेष रूप से Mac इंडी डेवलपर्स के लिए।