أصدر مشروع llama.cpp الإصدار b11375، الذي يعالج مشكلة حرجة حيث كانت خلايا ubatch غير المتصلة تجبر إعادة تخصيص الرسوم البيانية التي تؤدي إلى الإنهاء عند تعيين العلم GGML_SCHED_NO_REALLOC.

  • تجمع الإصلاح حالات التكرار مرة واحدة بحيث تغطي الاحتياطي كل تقسيم، مما يضمن أن حجم الاحتياطي في أسوأ الحالات كافٍ.
  • تجمع get_rows المفردة الآن n_rs حالة، مع معالجة ubatch والحالات الإضافية كمشاهدات لهذا التخصيص الوحيد.
  • تجمع المقتبسات المخصصة مثل mamba ssm_scan من الحالة الثانية لتجنب نسخ الحالات لـ ubatches التسلسل الواحد.
  • تُبنى المشاهدات مرة واحدة لكل رسم بياني للحفاظ على عبء المضيف دون تغيير.

يضمن هذا التغيير التنفيذ المستقر في بيئات الجدولة المقيدة عن طريق منع عمليات الإنهاء الناتجة عن قيود إعادة تخصيص الذاكرة.