llama.cpp परियोजना ने संस्करण b10853 जारी किया है, जिसने pull request #28466 के माध्यम से Kimi-K3 मॉडल के पुनरावर्ती-अवस्था रोलबैक तंत्र के लिए समर्थन पेश किया है।
यह अद्यतन कई प्लेटफ़ॉर्म और हार्डवेयर एक्सेलेरेटर पर पूर्व-निर्मित बाइनरी और फ्रेमवर्क प्रदान करता है। उपलब्ध बिल्ड में macOS (Apple Silicon और Intel), iOS, Linux (Ubuntu x64, arm64, s390x CPU, Vulkan, ROCm 10.0, OpenVINO, और SYCL बैकएंड के साथ), Android (arm64), Windows (CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, ROCm 10.0), और openEuler (ACL Graph के साथ x86 और aarch64) शामिल हैं।
रिलीज स्थानीय इनफरेंस के लिए व्यापक हार्डवेयर समर्थन बनाए रखते हुए नवीनतम Kimi-K3 आर्किटेक्चर के साथ संगतता सुनिश्चित करती है।