llama.cpp प्रोजेक्ट ने संस्करण b10064 जारी किया है, जिसमें OpenCL बैकएंड में एक बदलाव शामिल है। यह अपडेट noshuffle स्केल्स को ट्रांसपोज़ करके q4_K क्वांटीज़ेशन फॉर्मैट को संशोधित करता है ताकि सहयोजित पढ़ने को सक्षम बनाया जा सके।
- रिलीज़ में macOS (Apple Silicon और Intel), Linux (Ubuntu x64, arm64, s390x), Windows (CPU, CUDA 12/13, Vulkan, ROCm, SYCL, HIP), Android और iOS के लिए बाइनरी शामिल हैं।
- Windows arm64 के लिए OpenCL Adreno समर्थन उपलब्ध है।
- macOS Apple Silicon पर KleidiAI समर्थन इस बिल्ड में अक्षम रहता है।
- अपडेट विशिष्ट क्वांटीज़ेशन परतों के लिए मेमोरी एक्सेस पैटर्न को अनुकूलित करके प्रदर्शन को संबोधित करता है।