llama.cpp परियोजना ने संस्करण b10213 जारी किया है, जिसमें घुमाए गए कुंजी-मान कैश क्वांटीकरण के लिए समर्थन पेश किया गया है। यह अपडेट विभिन्न प्लेटफार्मों और हार्डवेयर त्वरकों पर उपलब्ध है।
- macOS Apple Silicon (arm64) और Intel (x64)
- XCFramework के माध्यम से iOS
- Linux Ubuntu x64 और arm64 (CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL FP32/FP16)
- Windows x64 और arm64 (CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP)
- Android arm64 (CPU)
- openEuler x86 और aarch64 (ACL Graph)
रिलीज में मुख्य एप्लिकेशन के लिए बाइनरी और एक अलग UI पैकेज शामिल हैं।