أطلق المطور وراء MTPLX الإصدار الثاني من الأداة، والذي يجلب تحسينات كبيرة في الأداء لتشغيل نماذج MLX على عتاد Apple Silicon. يركز التحديث على تحسين سرعة الاستدلال من خلال تنفيذ نوى جديدة وميزات إدارة ذاكرة التخزين المؤقت.
- يستخدم وضع Turbo نوى ضرب المصفوفات الكمية المتخصصة في التحقق (verify-specialized quantized-matmul) وخطوة تحقق مُجمَّعة لتحقيق 82 رمزًا في الثانية على MacBook Pro M5 Max.
- يتضمن الإصدار تغييرات كبيرة في نظام ذاكرة التخزين المؤقت KV لـ SSD.
- تم إجراء تحسينات على قدرات استدعاء الأدوات للسياقات الطويلة.
- قدم Ivan Fioravanti مقاييس أولية تقارن MTPLX بـ oMLX وDGX spark.
تهدف هذه التحديثات إلى ترسيخ مكانة MTPLX كوقت تشغيل عالي الأداء للنماذج اللغوية الكبيرة المحلية، لا سيما للمستخدمين الذين يبحثون عن سرعات توليد أسرع على أجهزة Mac.