أصدر مشروع llama.cpp الإصدار b10714، الذي يتضمن تحسينات محددة لخلفية Vulkan الموجهة لأجهزة AMD Strix Halo. يعدل التحديث عدد صفوف ضرب المصفوفة بالمتجه لتحسين الأداء أثناء الاستدلال الدفعي.
- Vulkan: يحدد 4 صفوف ثابتة لعمليات mat-vec في بنية RDNA3 مع أكثر من أربعة أعمدة، حيث أن هذا التكوين يعطي نتائج أسرع في الاختبارات المرجعية مقارنةً بالإعدادات الافتراضية.
- Vulkan: يطبق إعدادًا ثابتًا مكونًا من 4 صفوف لـ mul_mat_vec_id على أجهزة Strix Halo، مما أثبت كونه أسرع عبر أنواع وأحجام دفعات مختلفة مقارنةً بالافتراضي.
توفر هذه التغييرات مكاسب أداء ملموسة للمستخدمين الذين يشغلون llama.cpp على وحدات GPU القائمة على RDNA3 مثل Strix Halo.