llama.cpp b9968 يضيف تحسين int8 dp الكثيف و MoE prefill لبطاقات Adreno الرسومية

أصدر مشروع llama.cpp الإصدار b9968، مقدمًا تحسينات OpenCL لبطاقات Qualcomm Adreno الرسومية. تضيف هذه التحديثات دعم الضرب المصفوفي الكثيف int8 dp4 وقدرات GEMM الخاصة بـ Mixture of Experts (MoE) إلى الخلفية (backend) الخاصة بـ OpenCL.

• تمت إضافة دعم int8 dp الكثيف و MoE GEMM لبطاقات Adreno الرسومية عبر OpenCL.
• إعادة هيكلة قاعدة كود OpenCL كجزء من التحديث.
• تم تعطيل macOS Apple Silicon مع KleidiAI في هذا الإصدار.
• يتم توفير الثنائيات (Binaries) لأنظمة macOS (Apple Silicon و Intel)، Linux، Android، Windows، و openEuler عبر خلفيات CPU، Vulkan، CUDA، ROCm، OpenVINO، SYCL، و HIP.

يوفر هذا الإصدار ثنائيات محدثة لمنصات متعددة مع تمكين تحسينات أداء محددة لبطاقات Adreno الرسومية المحمولة.