أصدر مشروع llama.cpp الإصدار b10675، والذي يتضمن تحديثاً رئيسياً لخلفيته Vulkan. يضيف هذا الإصدار دعم رفع (hoisting) لمعرّفات الصفوف وأعداد الخبراء داخل كود الشيدر.
- تستخدم التنفيذ معرّفات الصفوف المرفوعة في coopmat2.
- يعالج ملاحظات المراجعة المتعلقة بـ count_experts باستخدام vk_op_count_experts_push_constants بدلاً من متجهات uint الخام.
- يتم تطبيق حيلة fastdiv على عملية القسمة والباقي ne00 في count_experts.
- تُحسب الإزاحات لكل خبير باستخدام subgroupExclusiveAdd حيثما كان ذلك مدعوماً، مع الحفاظ على المسار التسلسلي كخيار احتياطي.
يوفر هذا التحديث إصدارات Vulkan محسّنة لأنظمة macOS وLinux وWindows وAndroid عبر خلفيات عتادية متنوعة بما في ذلك CUDA وROCm وOpenCL.