أصدر مشروع llama.cpp الإصدار b10662، مقدمًا وسيطًا جديدًا `--kv-unified-per-slot` يسمح للمستخدمين بتحديد السياق لكل فتحة لـ KV كاش الموحد. يحل هذا التغيير محل آلية كسر السياق السابقة بفتحات بركة السياق ويعيد هيكلة التنفيذ الأساسي.
- يضيف الوسيط `ctx-per-slot` لإدارة تخصيص KV كاش الموحد بشكل أكثر دقة.
- يستبدل كسور ctx بفتحات pool ctx لتحسين منطق إدارة الذاكرة.
- يزيل المعلمة المتروكة `ctx-pool-slots` ويحول `ctx-per-slot` إلى نوع صحيح.
- يتضمن تنظيفًا عامًا للتنسيق وإعادة هيكلة الكود بواسطة Xuan Son Nguyen.
يوفر هذا التحديث للمستخدمين تحكمًا أدق في توزيع نافذة السياق عبر فتحات متعددة في نظام KV كاش الموحد.