أصدر مشروع llama.cpp الإصدار b9908، الذي يُدخل حدًا صارمًا لاستخدام ذاكرة الوصول العشوائي (RAM) لخزن المطالبات في الخادم. سابقًا، كان بإمكان الخزن تجاوز الحدود المحددة مؤقتًا عن طريق الاحتفاظ بالعناصر أثناء عمليات الحفظ.
- يمنع العلم --cache-ram الآن بشكل صارم حفظ الحالة إذا كانت تتجاوز حد الذاكرة العشوائية.
- يتم إخراج عناصر الخزن القديمة عند الضرورة لتوفير مساحة للعناصر الجديدة.
- يمكن الآن لتنظيف حدود الرموز (tokens) إخراج آخر عنصر خزن متبقي بدلاً من الحفاظ على واحد منها.
- تم تعطيل دعم KleidiAI لـ macOS Apple Silicon في هذا الإصدار.
يضمن هذا التغيير أن خزن المطالبات يحترم قيود الذاكرة بشكل أكثر موثوقية، مما يمنع الفيضانات المؤقتة.