llama.cpp प्रोजेक्ट ने संस्करण b10020 जारी किया है, जिसमें Q2_K, Q4_K और Q5_K क्वांटीज़ेशन फॉर्मेट्स को प्रभावित करने वाले SYCL बैकएंड के get_rows फ़ंक्शन के लिए एक सुधार शामिल है।
- Apple Silicon (arm64), Intel (x64) और iOS XCFramework के लिए macOS/iOS बिल्ड प्रदान की गई हैं, जहाँ Apple Silicon पर KleidiAI अक्षम किया गया है।
- Ubuntu x64, arm64 और s390x CPU के लिए Linux बाइनरी उपलब्ध हैं, साथ ही Vulkan, ROCm 7.2, OpenVINO और SYCL FP32/FP16 वेरिएंट्स भी।
- Android arm64 CPU बिल्ड शामिल है।
- Windows रिलीज़ x64 और arm64 CPU, OpenCL Adreno, CUDA 12.4 और 13.3, Vulkan, OpenVINO, SYCL और HIP को कवर करती हैं।
- openEuler समर्थन आंशिक रूप से अक्षम है, जिसमें x86 (310p, 910b ACL Graph) और aarch64 (310p, 910b ACL Graph) के लिए बिल्ड उपलब्ध हैं।
- एक स्टैंडअलोन UI बाइनरी भी प्रदान की गई है।
यह रिलीज़ कई ऑपरेटिंग सिस्टम और एक्सेलेरेटर के बीच व्यापक हार्डवेयर संगतता सुनिश्चित करती है, साथ ही विशिष्ट SYCL क्वांटीज़ेशन समस्याओं को ठीक करती है।