llama.cpp प्रोजेक्ट ने b9802 रिलीज जारी की है, जिसमें कई ऑपरेटिंग सिस्टम और हार्डवेयर आर्किटेक्चर पर पहले से बनाए गए बाइनरी उपलब्ध हैं। इस अपडेट में macOS, Linux, Windows, Android और openEuler जैसे प्लेटफॉर्म पर CPU, GPU और विशेष AI एक्सेलेरेटर के लिए समर्थन शामिल है।
- macOS बिल्स Apple Silicon (arm64) और Intel (x64) के लिए उपलब्ध हैं, साथ ही एक iOS XCFramework भी है।
- Linux बाइनरी Ubuntu x64 और arm64 CPUs, Vulkan, ROCm 7.2, OpenVINO और SYCL FP32/FP16 वेरिएंट्स को कवर करते हैं।
- Windows रिलीज में CPU, CUDA 12.4 और 13.3, Vulkan, OpenVINO, SYCL, HIP और OpenCL Adreno विकल्प शामिल हैं।
- Android के लिए arm64 CPUs का समर्थन प्रदान किया गया है, जबकि openEuler बिल्स x86 और aarch64 आर्किटेक्चर के लिए उपलब्ध हैं।
इस रिलीज से उपयोगकर्ताओं को स्थानीय कंपाइलेशन की आवश्यकता के बिना विभिन्न डिवाइस पर llama.cpp को स्थानीय रूप से चलाने की सुविधा मिलती है।