إصلاح llama.cpp b9945 لانهيار مسبار التفكير لقالب الدردشة

أصدر مشروع llama.cpp الإصدار b9945، والذي يتضمن إصلاحًا حرجًا لمسبار التفكير لقالب الدردشة في مكون الخادم. ينقل التغيير المسبار إلى داخل كتلة try/catch للتهيئة لمنع الاستثناءات غير الملتقطة.

في السابق، كانت النماذج ذات قوالب الدردشة التي تم تحليلها بنجاح أثناء التهيئة ولكن فشلت أثناء إنشاء المحلل (على سبيل المثال، باستخدام {% call %)) تسبب أخطاء std::invalid_argument خارج النطاق المحمي. أدى ذلك إلى توقف llama-cli عبر SIGABRT بدلاً من الفشل في التحميل بشكل أنيق. يضمن الإصلاح معالجة الأخطاء عند التطبيق بشكل متسق مع أخطاء التحليل أثناء التهيئة.

يوفر هذا الإصدار ملفات ثنائية لأنظمة macOS وLinux وWindows وAndroid وopenEuler عبر بنية مختلفة بما في ذلك CPU وCUDA وVulkan وROCm وOpenVINO وSYCL وOpenCL.