llama.cpp परियोजना ने बिल्ड b9984 जारी किया है, जिसमें pull request #25064 के माध्यम से DMMV पुनःक्रमण पथ में Q2_K क्वांटीकरण समर्थन जोड़ने के लिए एक परिवर्तन शामिल है।
- macOS/iOS: Apple Silicon (arm64), Intel (x64) और iOS XCFramework के लिए बाइनरी प्रदान की गई हैं; Apple Silicon पर KleidiAI अक्षम है।
- Linux: Ubuntu x64, arm64 और s390x CPU के लिए बिल्ड उपलब्ध हैं, साथ ही Vulkan, ROCm 7.2, OpenVINO और SYCL (FP32/FP16) बैकएंड के लिए भी।
- Android: arm64 के लिए CPU बाइनरी प्रदान की गई है।
- Windows: x64 और arm64 CPU, OpenCL Adreno, CUDA 12.4 और 13.3, Vulkan, OpenVINO, SYCL और HIP के लिए बाइनरी जारी की गई हैं।
- openEuler: ACL Graph के साथ x86 (310p, 910b) और aarch64 (310p, 910b) के लिए समर्थन शामिल है, जबकि मुख्य pull request को अक्षम के रूप में चिह्नित किया गया है।
यह रिलीज़ प्रमुख ऑपरेटिंग सिस्टम और हार्डवेयर एक्सेलेरेटर पर अपडेटेड बाइनरी प्रदान करती है, संगत SYCL बिल्ड के लिए DMMV पुनःक्रमण पथ में Q2_K क्वांटीकरण को सक्षम बनाती है।