llama.cpp प्रोजेक्ट ने संस्करण b9838 जारी किया है, जो विभिन्न ऑपरेटिंग सिस्टम और हार्डवेयर एक्सेलेरेटरों के लिए पूर्व-बिल्ड बाइनरी प्रदान करता है। इस रिलीज में macOS, Linux, Windows, Android, और openEuler पर CPU, GPU (CUDA, Vulkan, ROCm, OpenCL), और विशेष AI एक्सेलेरेटर्स के लिए समर्थन शामिल है।

  • Apple Silicon (arm64) और Intel (x64) के लिए macOS बिल्ड्स उपलब्ध हैं, जिनमें KleidiAI समर्थन अक्षम किया गया है।
  • Ubuntu x64, arm64, और s390x आर्किटेक्चर के लिए Linux बाइनरी प्रदान किए गए हैं, जिसमें CPU, Vulkan, ROCm 7.2, OpenVINO, और SYCL वेरिएंट शामिल हैं।
  • Windows रिलीज में x64 और arm64 के लिए CPU, CUDA 12/13, Vulkan, OpenCL Adreno, OpenVINO, SYCL, और HIP बिल्ड्स शामिल हैं।
  • Android समर्थन केवल arm64 CPU बिल्ड्स तक सीमित है।
  • ACL Graph का उपयोग करने वाले x86 और aarch64 आर्किटेक्चर के लिए openEuler बिल्ड्स उपलब्ध हैं, जिनमें मानक openEuler समर्थन अक्षम किया गया है।

इस रिलीज से उपयोगकर्ताओं को स्रोत से कंपाइल किए बिना विविध हार्डवेयर कॉन्फ़िगरेशन पर llama.cpp तैनात करने की सुविधा मिलती है।