أصدر مشروع llama.cpp الإصدار b9901، والذي يتضمن تحديثات محددة للخلفية SYCL لتعزيز الأداء على الأجهزة من إنتل. يوفر هذا الإصدار ملفات ثنائية لأنظمة macOS وLinux وWindows وAndroid وopenEuler عبر خلفيات CPU وCUDA وROCm وVulkan وغيرها.
- يضبط K_QUANTS_PER_ITERATION إلى 1 في مسار DMMV لتحسين استخدام وحدة معالجة الرسومات.
- يصلح بوابة ggml_sycl_supports_reorder_dmmv لتمكين ميزة إعادة الترتيب.
- يضيف الأنواع المفقودة إلى ggml_backend_sycl_buffer_init_tensor لضمان التخصيص الصحيح.
- يستبدل QK_WARP_SIZE بـ WARP_SIZE لـ QK_5 في عمليات SYCL.
تؤدي هذه التغييرات إلى زيادة كبيرة في عدد الرموز في الثانية (tg t/s) على وحدة معالجة الرسومات Intel B70.