llama.cpp प्रोजेक्ट ने बिल्ड b10642 जारी किया है, जिसने कुंजी-मान (KV) सेल के भीतर टोकन IDs को ट्रैक करने के लिए एक बदलाव पेश किया है।
- मुख्य अपडेट में KV सेल कार्यान्वयन में टोकन ID ट्रैकिंग जोड़ना शामिल है।
- `get_prev_tokens` फ़ंक्शन को इस विशिष्ट कमिट से हटा दिया गया और इसे मुख्य पुल अनुरोध #27762 में स्थानांतरित कर दिया गया।
- macOS (Apple Silicon और Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, ROCm, SYCL) और openEuler के लिए बाइनरी प्रदान की गई हैं।
इस रिलीज़ ने आंतरिक KV सेल संशोधन के साथ कई प्लेटफ़ॉर्म पर अपडेट किए गए बाइनरी प्रदान किए हैं।