أصدر مشروع llama.cpp الإصدار b10833، مقدمًا تحسينات لخلفية Vulkan تدمج عمليات تطبيع محددة لتحسين أداء الاستدلال.
- دعم دمج RMS_NORM + MUL + ADD (+ MUL) و RMS_NORM + VIEW + SET_ROWS في خلفية Vulkan.
- توسيع ROPE + VIEW + SET_ROWS لدعم IMROPE.
- يبلغ المؤلف عن مكسب في الأداء بنسبة حوالي 4% على نماذج gemma4 في نظامه.
يوفر هذا التحديث للمستخدمين سرعات استدلال أسرع للنماذج المتوافقة التي تعمل على أجهزة متوافقة مع Vulkan.