تُقدّم إصدار llama.cpp b10306 تحسينات في الأداء للخلفية SYCL، مستهدفةً على وجه التحديد عمليات وحدة الخطية المقننة (GLU). يضيف التحديث مسارًا سريعًا متواصلًا لعمليات GLU المدمجة ويوحّد النوى المختلفة سابقًا لمشاركة مُطلق مشترك.

  • يضيف حالات اختبار أداء SWIGLU تغطي 17408 عمودًا مع 512 و2048 رمزًا في f16 وf32.
  • يوحد نوى GLU المدمجة بأخذ العملية كوسيط، وإزالة الثوابت SYCL_GELU_BLOCK_SIZE وSYCL_SILU_BLOCK_SIZE غير المستخدمة.
  • يطبّق إرسال نواة مسطحًا للمعاملات المتصلة حيث يختزل حساب فهرس التفكيك إلى الهوية.
  • يحقق تحسنًا في الأداء بنسبة +14% في f16 و+4% في f32 لـ GLU المقسّم على Arc Pro B70، مع بقاء العمليات المدمجة دون تغيير.

تحسّن هذه التغييرات كفاءة الخلفية SYCL من خلال تقليل تكرار الكود وتحسين أنماط الوصول إلى الذاكرة لتكوينات موتر محددة.