أصدر مشروع llama.cpp الإصدار b10414، مقدمًا دعمًا لنوع الكمي الثلاثي GGML_TYPE_TQ2_0 في الخلفية Metal. يتضمن هذا التحديث أيضًا تحسينات لنواة mul_mv للصفائف المتصلة (cont).
- تمت إضافة دعم GGML_TYPE_TQ2_0 (ثلاثي، 2 بت لكل عنصر) إلى الخلفية Metal.
- تم تحسين نواة mul_mv عن طريق التبديل من العمليات الصحيحة إلى عمليات النقطة العائمة.
- تحسين الأداء من خلال المجاميع المحسوبة مسبقًا، والمعاملات المرفوعة، وتحميل y المتصل.
يوفر هذا الإصدار ملفات ثنائية محدثة لأنظمة macOS وLinux وWindows وAndroid وopenEuler عبر خلفيات عتادية مختلفة تشمل CPU وCUDA وVulkan وROCm وSYCL.