أصدر مشروع llama.cpp الإصدار b10891، الذي يعالج مشكلة استقرار حرجة على وحدات معالجة الرسومات PowerVR. يعدل التحديث الخلفية Vulkan للرجوع إلى اختزال الذاكرة المشتركة لعمليات ضرب المصفوفة المتجهية بعد فك التكميم (dmmv).
- يحل التغيير انهيارًا ناتجًا عن مترجم Vulkan الخاص بـ Imagination الذي يعيد VK_ERROR_UNKNOWN عند بناء خطوط أنابيب الحوسبة مع اختزالات تعتمد على المجموعات الفرعية فقط.
- ينطبق هذا الإصلاح على تنسيقات التكميم k-quants وi-quants وTQ2_0 وMXFP4 وNVFP4 التي فشلت سابقًا على أجهزة مثل Pixel 11 Pro.
- ينجح تجميع متغير اختزال الذاكرة المشتركة ويتطابق مع نتائج المرجع لوحدة المعالجة المركزية لتكميمات q2_K حتى q6_K.
- يوجد أيضًا متغير هجين لكنه يتسبب في عقوبة أداء كبيرة، مما يقلل من معدل تمرير الرموز إلى 27% من المعدل القياسي.
يضمن هذا التحديث أن النماذج التي تستخدم هذه التنسيقات المحددة للتكميم يمكنها العمل على عتاد PowerVR دون انهيار أثناء مرحلة توليد الرمز الأولي.