llama.cpp प्रोजेक्ट ने संस्करण b9816 जारी किया है, जिसमें ggml लाइब्रेरी के साथ सिंक शामिल है। इस अपडेट में macOS, iOS, Linux, Windows, Android, और openEuler प्लेटफॉर्म के लिए पूर्व-निर्मित बाइनरी प्रदान की गई हैं।
- macOS Apple Silicon (arm64) और Intel (x64) बिल्स उपलब्ध हैं, जबकि KleidiAI समर्थन अक्षम है।
- Linux बाइनरी में Ubuntu x64 और arm64 CPU, Vulkan, ROCm 7.2, OpenVINO, और SYCL FP32/FP16 वेरिएंट शामिल हैं।
- Windows रिलीज में CPU, CUDA 12.4/13.3, Vulkan, OpenVINO, SYCL, HIP, और OpenCL Adreno विकल्प शामिल हैं।
- मोबाइल डिप्लॉयमेंट के लिए Android arm64 (CPU) और iOS XCFramework बाइनरी प्रदान की गई हैं।
- openEuler समर्थन में x86 और aarch64 बिल्स ACL Graph के साथ शामिल हैं, हालांकि मानक openEuler अक्षम है।
इस रिलीज से उपयोगकर्ता नवीनतम ggml बैकएंड का उपयोग करके विभिन्न हार्डवेयर आर्किटेक्चर और ऑपरेटिंग सिस्टम पर llama.cpp चला सकते हैं।