أصدر مشروع llama.cpp الإصدار b10203، الذي يقدم دعمًا لتنسيق الكمية q2_0 في عمليات ضرب المصفوفات القائمة على SYCL. يوسع هذا التحديث توافق المكتبة مع سيناريوهات تسريع الأجهزة المحددة.

  • يضيف دعمًا لـ q2_0 في mul_mat عبر PR #26231.
  • يمدد التغطية لحالات q2_0 إضافية داخل الخلفية SYCL.
  • يوفر ملفات ثنائية (binaries) لأنظمة macOS (Apple Silicon وIntel)، وiOS، وLinux (CPU، Vulkan، ROCm 7.2، OpenVINO، SYCL FP32/FP16)، وAndroid، وWindows (CPU، OpenCL، CUDA 12/13، Vulkan، OpenVINO، SYCL، HIP)، وopenEuler.

يتيح هذا الإصدار للمستخدمين استخدام الكمية q2_0 على الأجهزة المتوافقة مع SYCL، مما يوسع نطاق تكوينات الأجهزة المدعومة للاستنتاج الفعال للنماذج.