أطلق مشروع llama.cpp الإصدار b10206، الذي يقدم تغييرات محددة في كيفية معالجة ذاكرتي التخزين المؤقت للقيم والمفاتيح في آليات الانتباه. يضمن التحديث بقاء أنواع ذاكرة التخزين المؤقت K و V متسقة لنماذج DeepSeek V4.
- يفرض أنواع ذاكرة تخزين مؤقت K و V متطابقة لهندسة DeepSeek V4.
- يمكّن Flash Attention (FA) عندما تكون ذاكرة التخزين المؤقت V مُكمَّمة.
- يطبق نفس فرض أنواع ذاكرة التخزين المؤقت K و V على نماذج MLA الأخرى.
يوفر هذا الإصدار ملفات ثنائية لأنظمة macOS و Linux و Windows و Android و openEuler عبر خلفيات عتادية متنوعة تشمل CPU و CUDA و ROCm و Vulkan و OpenVINO و SYCL و OpenCL.