एक उपयोगकर्ता विभिन्न स्थानीय बड़े भाषा मॉडल चलाकर इसकी कार्यक्षमता का आकलन करने के लिए 128GB M5 Max MacBook Pro का बेंचमार्किंग करता है। परीक्षण में अलग-अलग क्वांटीकरण प्रारूपों और संदर्भ लंबाई के साथ Gemma 4, Qwen 3.6, MiniMax M2.7, और Mistral Medium 3.5 सहित मॉडल परिवार शामिल हैं।
- MLX 8-bit का उपयोग करने पर Gemma 4 E4B ने 4,748 PP और 85.0 TG प्राप्त किया, जबकि GGUF Q8 के साथ 3,974 PP और 76.1 TG था।
- Qwen 3.6 27B MLX Q8 के साथ 706 PP और 17.2 TG पर चला, जबकि 35B A3B वेरिएंट ने 128K संदर्भ पर 2,153 PP और 79.4 TG प्राप्त किया।
- Draft MTP n=2 के साथ स्पेकुलेटिव डिकोडिंग ने Qwen 27B के लिए जनरेशन समय को 75s से घटाकर 62s कर दिया।
- Qwen 27B और 35B A3B का उपयोग करने वाले मल्टी-एजेंट सेटअप ने एक साइट-बिल्डिंग कार्य को 233s में पूरा किया, जिसने सिंगल-मॉडल कंट्रोल (जिसने 537s लिया) को पछाड़ दिया।
- Mistral Medium 3.5 128B और DS4 DeepSeek V4 Flash जैसे बड़े मॉडलों का Qwen 3.6 Flash के साथ परीक्षण किया गया, जिसने 452 PP और 45.2 TG प्राप्त किया।
परिणाम हार्डवेयर की विविध मॉडल आकारों और जटिल अनुमान कार्यों को स्थानीय रूप से संभालने की क्षमता पर प्रायोगिक डेटा प्रदान करते हैं।