llama.cpp परियोजना ने संस्करण b9994 जारी किया है, जिसने pull request #25419 के माध्यम से Q2_0 क्वांटीज़ेशन समर्थन पेश किया है। यह अपडेट विभिन्न हार्डवेयर बैकएंड्स पर macOS, Linux, Windows, Android और openEuler के लिए पूर्व-निर्मित बाइनरी प्रदान करता है।
- metal बैकएंड में Q2_0 समर्थन जोड़ा गया।
- macOS/iOS Apple Silicon बिल्ड्स के लिए KleidiAI समर्थन अक्षम किया गया।
- CPU, Vulkan, CUDA (12.4 और 13.3), ROCm, OpenVINO, SYCL, HIP और OpenCL Adreno के लिए बाइनरी प्रदान की गईं।
- रिलीज़ में iOS XCFramework और UI पैकेज शामिल किए गए।