أصدر مشروع llama.cpp الإصدار b10273، معالجةً لمشكلة حرجة حيث لم تتمكن العينات القائمة على التاريخ من استنتاج طول السياق الصحيح أثناء التهيئة بسبب قيود الخلفية للعينات.

  • يحل -1 إلى 1024 بدلاً من ctx-len للعينات لإصلاح أخطاء التهيئة.
  • يحدد قيمة افتراضية مشتركة تبلغ 64 للعينات القائمة على التاريخ ويزيل المعلمة context_size.
  • يوفر ملفات قابلة للتنفيذ لأنظمة macOS وLinux وWindows وAndroid وopenEuler عبر وحدات المعالجة المركزية، ووحدات معالجة الرسومات (CUDA، Vulkan، ROCm، SYCL)، وخلفيات OpenVINO.

يضمن هذا التحديث سلوكًا مستقرًا للعينة أثناء مراحل البناء المبكرة عندما لا يكون llama_context الكامل متاحًا بعد.