طلب مستخدم من كودكس تحسين وقت تشغيل oMLX للنموذج الأفيني 8-بت DeepSeek V4 Flash بحجم 302 جيجابايت، مما أدى إلى مكاسب كبيرة في الأداء على جهاز Mac Studio M3 Ultra. تتيح التغييرات نوى Metal MoE الخاصة بـ DeepSeek بشكل أصلي وتستبدل فرز المسار العام بمسارات البucket/العد.
- زادت سرعة التعبئة المسبقة من حوالي 300 توكن/ثانية إلى حوالي 533 توكن/ثانية لمُدخل بحجم 12K.
- تحسنت سرعة فك التشفير من حوالي 7.31 توكن/ثانية إلى حوالي 20-22 توكن/ثانية في اختبارات معيارية خاضعة للرقابة.
- حافظت عمليات تشغيل Hermes الواقعية مع سياق يتراوح بين 80K و120K على سرعات فك تشفير حول 19.5-20.7 توكن/ثانية.
- تضيف التحسينات تجسيدات لنوى Metal الأفينية 8-بت ونوى فك تشفير مفهرسة بالمسار لتقليل الحمل الإضافي.
يسعى المؤلف إلى التحقق من المجتمع بأن التغييرات لا تسبب فقداناً ذا معنى في الدقة، مع ملاحظة أن الأوزان وتنسيقات الكمّية تبقى دون تغيير.