أطلق مشروع llama.cpp الإصدار b11122، والذي يتضمن تحديثات كبيرة للخلفية SYCL. يوسع هذا الإصدار دمج MMVQ GLU لدعم أنواع الكم المختلطة ويقدم دمجات جديدة لعمليات rms_norm+scale و ssm_conv+silu.

  • يوسع دمج MMVQ GLU للتعامل مع أنواع الكم المختلطة في الخلفية SYCL.
  • يضيف دمجات rms_norm+scale و ssm_conv+silu لـ SYCL.
  • يصلح مشاكل المسافات ويحول ماكروًا إلى دالة قالب.
  • يوفر ملفات ثنائية لأنظمة macOS و Linux و Windows و Android و openEuler عبر خلفيات CPU و GPU و NPU بما في ذلك CUDA و Vulkan و ROCm و OpenVINO.

يعزز هذا التحديث الأداء والتوافق لتسريع الأجهزة القائم على SYCL داخل نظام llama.cpp البيئي.