أطلق مشروع llama.cpp الإصدار b10538، مقدمًا تحسينًا رئيسيًا في الخلفية metal. يتيح هذا التحديث فك تكميم ذاكرة التخزين المؤقت للمفاتيح والقيم (KV) حصريًا لأحجام الحزم الكبيرة.
- التغيير الأساسي هو في الخلفية metal، والتي تطبق الآن تخزين KV غير المُكمّم فقط عند معالجة الحزم الكبيرة.
- الملفات الثنائية متوفرة لأنظمة macOS (Apple Silicon و Intel)، و iOS، و Linux (CPU، Vulkan، OpenVINO، SYCL)، و Android، و Windows (CPU، CUDA 12/13، Vulkan، OpenVINO، SYCL، ROCm)، و openEuler.
تم تعطيل دعم KleidiAI على Apple Silicon لـ macOS و ROCm 7.14 على Ubuntu في هذا الإصدار.
يهدف هذا التحسين إلى تحسين كفاءة الذاكرة أو الأداء لأحمال العمل التي تتضمن أحجام حزم كبيرة على الأجهزة المتوافقة.