أصدر مشروع llama.cpp الإصدار b10437، الذي يقدم دعمًا أصليًا لنماذج اللغة السببية MiniMax-Text-01 وMiniMax-M1. يتضمن هذا التحديث البرامج النصية للتحويل اللازمة، وقوالب الدردشة، وتنفيذات بنية النموذج لتشغيل هذه النماذج المحددة داخل إطار عمل llama.cpp.
- تمت إضافة دعم لـ `MiniMaxText01ForCausalLM` و `MiniMaxM1ForCausalLM` على طبقة النموذج.
- تم تنفيذ كبت الرموز (tokens) للتضمينات ذات القيم الصفرية لمنع تعطيل عملية أخذ العينات.
- تم تحسين الأداء عن طريق إزالة عمليات نقل الحالة واستخدام وظائف مشتركة لتنفيذ موجز.
- تمت إضافة قالب دردشة Jinja مخصص لـ MiniMax-M1.
- تم تضمين منتجات البناء لأنظمة macOS وLinux وWindows وAndroid وopenEuler عبر وحدات المعالجة المركزية ووحدة معالجة الرسومات ومسرعات مختلفة.
يتيح هذا الإصدار للمستخدمين تشغيل نماذج MiniMax محليًا باستخدام بنية الاستدلال الحالية الخاصة بـ llama.cpp.