أصدر مشروع llama.cpp الإصدار b9986، معالجاً مشاكل محددة في قوالب الدردشة. يتضمن التحديث إصلاحاً لتسربات الاستدلال التي حدثت مع القوالب العارية المفتوحة بالقوة.

  • يصلح استدلال وسم بداية الاستدلال عن طريق تقليم المسافات البيضاء الزائدة لمنع ابتلاع المحتوى.
  • يحل مشكلة انحدار تؤثر على نماذج Nemotron Nano v2.
  • يوفر ملفات تنفيذية لأنظمة macOS (Apple Silicon و Intel)، و iOS، و Linux (CPU، Vulkan، ROCm، OpenVINO، SYCL)، و Android، و Windows (CPU، CUDA 12/13، Vulkan، OpenCL، OpenVINO، SYCL، HIP)، و openEuler.

يضمن هذا الإصدار التعامل الصحيح مع القوالب لهندسات النماذج المحددة ويوفر ملفات تنفيذية محدثة عبر جميع المنصات المدعومة.