llama.cpp परियोजना ने संस्करण b9936 जारी किया है, जिसमें प्रॉम्प्ट बैच को विभाजित करते समय min-step पैरामीटर का सम्मान करने के लिए एक सुधार शामिल है।

  • macOS Apple Silicon और Intel के लिए बाइनरी उपलब्ध हैं, जहाँ Apple Silicon पर KleidiAI समर्थन अक्षम है।
  • Linux बिल्ड CPU, Vulkan, ROCm 7.2, OpenVINO और SYCL बैकएंड के लिए x64, arm64 और s390x आर्किटेक्चर को कवर करता है।
  • Android arm64 (CPU) के लिए बाइनरी प्रदान किए गए हैं।
  • Windows बिल्ड x64 और arm64 CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL और HIP का समर्थन करता है।
  • मुख्य शाखा के लिए openEuler समर्थन अक्षम है, लेकिन 310p और 910b ACL Graph जैसी विशिष्ट हार्डवेयर विन्यासों के लिए उपलब्ध है।
  • रिलीज़ में एक स्टैंडअलोन UI बाइनरी भी शामिल है।