llama.cpp प्रोजेक्ट ने संस्करण b9986 जारी किया, जिसने विशिष्ट चैट टेम्पलेट समस्याओं को संबोधित किया। अपडेट में बरे टेम्पलेट्स को जबरन खोलने के दौरान होने वाले तर्क रिसाव के लिए एक ठीक शामिल है।
- सामग्री निगलने से बचाने के लिए पीछे की सफेद जगह को काटकर तर्क प्रारंभ टैग अनुमान को ठीक करता है।
- Nemotron Nano v2 मॉडलों को प्रभावित करने वाले पश्चगमन को हल करता है।
- macOS (Apple Silicon और Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, HIP), और openEuler के लिए बाइनरी प्रदान करता है।
यह रिलीज़ विशिष्ट मॉडल आर्किटेक्चर के लिए सही टेम्पलेट हैंडलिंग सुनिश्चित करती है और समर्थित प्लेटफ़ॉर्म पर अद्यतन बाइनरी प्रदान करती है।