llama.cpp प्रोजेक्ट ने संस्करण b10210 जारी किया है, जिसमें ड्राफ़्ट टोकन रीप्ले की आवश्यकता होने पर स्वीकृत टोकन को हैंडल करने के लिए सर्वर लॉजिक में एक सुधार शामिल है।
- जब ड्राफ़्ट टोकन रीप्ले की आवश्यकता होती है तो सर्वर घटक में स्वीकृत टोकन को सुधारा जाता है।
- macOS (Apple Silicon और Intel), iOS, Linux (Ubuntu x64/arm64/s390x with CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP), और openEuler के लिए पूर्व-निर्मित बाइनरी प्रदान करता है।
- एक UI रिलीज़ पैकेज शामिल है।
यह अपडेट सभी समर्थित प्लेटफ़ॉर्म पर अनुमानित डिकोडिंग परिदृश्यों में सटीक टोकन हैंडलिंग सुनिश्चित करता है।