एक डेवलपर ने mlx-serve जारी किया है, जो एक ओपन-सोर्स स्थानीय इनफरेंस सर्वर है जिसे Zig में लिखा गया है और यह MLX और GGUF मॉडल का समर्थन करता है। परियोजना लेखक की निराशा को दूर करती है, जो मौजूदा टूल्स में धीमे मॉडल समर्थन और ब्रेकेन फीचर्स जैसे टूल कॉलिंग के कारण थी।
सर्वर OpenAI, Anthropic, और Ollama APIs से बात करता है और Gemma 4 और Qwen 3.6 बेंचमार्क्स पर LM Studio को +48% ज्यामितीय माध्य से हराता है। इसमें ऑटो-डिटेक्टिंग टूल-कॉलिंग ऑटोकरेक्ट फीचर और इसके DMG वितरण में एक नेटिव Swift UI ऐप शामिल है।
यह सिंगल ~7MB बाइनरी ओपन सोर्स है, बिना किसी टेलीमेट्री के, Mac हार्डवेयर पर कुशलता से चलने के लिए डिज़ाइन किया गया है।