أصدر مشروع llama.cpp الإصدار b10669، والذي يتضمن تحسينًا للأداء لمسار SDPA الخاص بـ oneDNN من خلال ربط ذاكرة التخزين المؤقت KV f16 في مكانها.

  • يقلل التغيير من حركة مرور الذاكرة أثناء أجزاء التعبئة المسبقة؛ على سبيل المثال، على Qwen3.8 27B بطول KV نشط يبلغ 34816، فإنه يخفض حركة المرور لكل ubatch من 4.56 جيجابايت إلى أقل بتجنب النسخ المتدرجة.
  • تتوفر الملفات الثنائية لأنظمة macOS (Apple Silicon وIntel)، وiOS، وLinux (CPU، Vulkan، ROCm، OpenVINO، SYCL)، وAndroid، وWindows (CPU، CUDA، OpenCL، Vulkan، OpenVINO، SYCL، ROCm)، وopenEuler.

يوفر هذا التحديث للمستخدمين أداء استنتاج محسّنًا على الأجهزة المدعومة مع الحفاظ على توافق واسع النطاق مع المنصات.