llama.cpp परियोजना ने संस्करण b9945 जारी किया, जिसमें सर्वर घटक के चैट-टेम्पलेट थिंकिंग प्रोब के लिए एक महत्वपूर्ण सुधार शामिल है। परिवर्तन प्रोब को init try/catch ब्लॉक के अंदर ले जाता है ताकि अप्रबंधित अपवादों से बचा जा सके।
पूर्व में, चैट टेम्पलेट वाले मॉडल जो प्रारंभिकरण पर पार्स होते थे लेकिन पार्सर जनरेशन के दौरान विफल हो जाते थे (उदाहरण के लिए, {% call %} का उपयोग करके), सुरक्षित सीमा के बाहर std::invalid_argument त्रुटियाँ उत्पन्न करते थे। इससे llama-cli SIGABRT के माध्यम से बंद हो जाता था, लोड करने में सफलतापूर्वक विफल होने के बजाय। सुधार लागू-समय त्रुटियों को प्रारंभिक पार्स त्रुटियों के साथ संगत रूप से संभालना सुनिश्चित करता है।
रिलीज में macOS, Linux, Windows, Android और openEuler के लिए विभिन्न आर्किटेक्चर जैसे CPU, CUDA, Vulkan, ROCm, OpenVINO, SYCL और OpenCL के लिए बाइनरी प्रदान की गई हैं।