llama.cpp प्रोजेक्ट ने संस्करण b9855 जारी किया है, जिसने ggml-cpu बैकएंड के भीतर UE4M3 लुक-अप टेबल (LUT) का उपयोग करके nvfp4 डॉट उत्पाद के लिए AVX2 अनुकूलन पेश किया है।
- macOS Apple Silicon और Intel बिल्ड्स iOS XCFramework के साथ उपलब्ध हैं।
- Linux बाइनरी CPU, Vulkan, ROCm 7.2, OpenVINO, और SYCL (FP32/FP16) के माध्यम से Ubuntu x64, arm64, और s390x आर्किटेक्चर का समर्थन करते हैं।
- Windows रिलीज में CPU, OpenCL Adreno, CUDA 12.4 और 13.3, Vulkan, OpenVINO, SYCL, और HIP बैकएंड शामिल हैं।
- मोबाइल डिप्लॉयमेंट के लिए Android arm64 CPU बाइनरी प्रदान किए गए हैं।
- इस रिलीज में macOS Apple Silicon पर KleidiAI समर्थन अक्षम है।
यह अपडेट विशिष्ट हार्डवेयर कॉन्फ़िगरेशन के लिए उपयोगकर्ताओं को अनुकूलित इनफरेंस क्षमताएं प्रदान करता है और प्रमुख ऑपरेटिंग सिस्टम पर समर्थित एक्सेलेरेटर की श्रृंखला का विस्तार करता है।