llama.cpp प्रोजेक्ट ने b9822 रिलीज प्रकाशित की है, जिसमें macOS, iOS, Linux, Android और Windows के लिए पूर्व-निर्मित बाइनरी शामिल हैं। इस अपडेट में test-chat-template --no-common विकल्प के लिए एक सुधार शामिल है और विभिन्न हार्डवेयर आर्किटेक्चर और एक्सेलेरेटर पर बिल्ड वितरित किए गए हैं।
- macOS Apple Silicon (arm64) और Intel (x64) बाइनरी उपलब्ध हैं, जिनमें KleidiAI समर्थन अक्षम है।
- Linux बिल्ड Ubuntu x64 और arm64 CPU, s390x CPU, Vulkan, ROCm 7.2, OpenVINO और SYCL FP32/FP16 को कवर करते हैं।
- Windows रिलीज में CPU, OpenCL Adreno, CUDA 12.4 और 13.3, Vulkan, OpenVINO, SYCL और HIP वेरिएंट शामिल हैं।
- वितरण में Android arm64 (CPU) बाइनरी और एक iOS XCFramework शामिल है।
- x86 और aarch64 आर्किटेक्चर के लिए openEuler बिल्ड सूचीबद्ध हैं, जिनमें कुछ कॉन्फ़िगरेशन अक्षम हैं।
इस रिलीज से उपयोगकर्ताओं को स्रोत से कंपाइल किए बिना विभिन्न उपकरणों और GPU एक्सेलेरेटर पर llama.cpp चलाने की सुविधा मिलती है।