يُطلق إصدار llama.cpp b10858 دمج نوى Vulkan لعمليات التنشيط المجاورة (GELU، SIGMOID، SILU، SOFTPLUS) وعمليات الضرب MUL. يستعيد هذا التحسين تراجعاً بنسبة 10-18% في سرعة معالجة الطلبات من خلال القضاء على عمليات الوصول غير الضرورية للذاكرة والتفرع الزمني.
- تتعامل خطوط الأنابيب المدمجة مع GELU وSIGMOID وSILU وSOFTPLUS مع MUL، باستخدام برامج تشغيل SPIR-V متخصصة لـ f32 وf16.
- يقوم مُحسّن الرسم البياني الآن بجدولة الأزواج المدمجة حتى عندما تكون مفصولة بعُقد لا تُنفّذ حسابات مثل VIEW أو RESHAPE، مما يوسع الدعم للأنماط الموجودة في نماذج مثل Gemma4.
- يدعم دمج OP-on-B التنشيط على المُعامِل الأصغر في MUL، مما يمكّن من التوجيه الفعال في البنى ذات الخبراء المشتركين.
- تغطي اختبارات الخلفية التخطيطات الجديدة بما في ذلك 'gate' و'view_mid' للتحقق من الصحة عبر أشكال متعددة للمصفوفات.
يؤدي هذا التغيير إلى تحسين كبير في زمن الاستدلال للنماذج التي تعتمد بشكل كثيف على آليات توجيه التنشيط من خلال تقليل الحمل الحسابي في الخلفية Vulkan.