llama.cpp प्रोजेक्ट ने संस्करण b9829 जारी किया है, जिसमें सर्वर, सामान्य घटकों और स्पेकुलेटिव डिकोडिंग मॉड्यूल में लॉग आउटपुट की कमी शामिल है। यह अपडेट CMN_ को COM_ से बदलकर नामकरण रूढ़ियों को मानकीकृत भी करता है।
- बेहतर वर्बोसिटी नियंत्रण के लिए सर्वर लॉग कम किए गए हैं।
- macOS Apple Silicon बिल्स उपलब्ध हैं, लेकिन KleidiAI समर्थन अक्षम है।
- Linux बाइनरी Ubuntu x64, arm64, s390x, Vulkan, ROCm 7.2, OpenVINO और SYCL FP32/FP16 को कवर करती है।
- Windows रिलीज़ में CPU, OpenCL Adreno, CUDA 12.4/13.3, Vulkan, OpenVINO, SYCL और HIP वेरिएंट शामिल हैं।
- Android arm64 (CPU) और iOS XCFramework बाइनरी प्रदान की गई हैं।
- x86 के लिए openEuler समर्थन अक्षम है, लेकिन ACL Graph के साथ aarch64 के लिए उपलब्ध है।
यह रिलीज़ विभिन्न ऑपरेटिंग सिस्टम और हार्डवेयर एक्सेलेरेटर पर डेवलपर्स के लिए अपडेटेड बाइनरी प्रदान करती है, जो हालिया CUDA संस्करणों के साथ संगतता सुनिश्चित करती है और सर्वर वातावरण में लॉग शोर को कम करती है।