أصدر مشروع llama.cpp الإصدار b10058، الذي يقدم دعمًا لتنسيق الكمية Q2_0 داخل الخلفية الخلفية لـ Vulkan. يتضمن هذا التحديث أيضًا توزيعات ثنائية لمنصات مختلفة بما في ذلك macOS وLinux وWindows وAndroid.
- تدعم الخلفية الخلفية لـ Vulkan الآن كمية Q2_0، مع تحقيق تحسينات في الأداء عن طريق مضاعفة الصفوف لكل مجموعة عمل في اختبارات mat-vec-mul.
- تم إيقاف تشغيل بناء Apple Silicon على macOS المفعّل به KleidiAI في هذا الإصدار.
- تتوفر ثنائيات جديدة لـ Ubuntu (CPU، Vulkan، ROCm 7.2، OpenVINO، SYCL) وWindows (CPU، CUDA 12/13، Vulkan، OpenVINO، SYCL، HIP) وAndroid arm64.
- تم تحديث إطار عمل واجهة المستخدم على macOS إلى الإصدار b10058.
يتيح هذا الإصدار للمستخدمين الاستفادة من الكمية منخفضة البت على الأجهزة المتوافقة مع Vulkan بينما يوفر ثنائيات محدثة عبر أنظمة التشغيل الرئيسية.