llama.cpp प्रोजेक्ट ने संस्करण b9825 जारी किया है, जिसमें शून्य इनपुट हैंडल करते समय Vulkan स्टेप ऑपरेटर के लिए एक फिक्स शामिल है। यह अपडेट विभिन्न हार्डवेयर बैकएंड्स पर macOS, Linux, Windows, Android और openEuler के लिए प्री-बिल्ड बाइनरीज़ प्रदान करता है।

  • macOS Apple Silicon (arm64) और Intel (x64) बिल्ड्स उपलब्ध हैं, जिनमें KleidiAI सपोर्ट अक्षम किया गया है।
  • Linux बाइनरीज़ CPU (x64, arm64, s390x), Vulkan, ROCm 7.2, OpenVINO और SYCL FP32/FP16 को कवर करती हैं।
  • Windows रिलीज़ में CPU, OpenCL Adreno, CUDA 12.4 और 13.3, Vulkan, OpenVINO, SYCL और HIP बैकएंड्स शामिल हैं।
  • मोबाइल डिप्लॉयमेंट के लिए Android arm64 (CPU) और iOS XCFramework बिल्ड्स प्रदान किए गए हैं।
  • openEuler सपोर्ट में ACL Graph का उपयोग करने वाले x86 और aarch64 वेरिएंट शामिल हैं, हालांकि मुख्य पुल रिक्वेस्ट को अक्षम के रूप में चिह्नित किया गया है।

यह रिलीज़ विभिन्न ऑपरेटिंग सिस्टम और हार्डवेयर एक्सेलेरेटरों के बीच व्यापक संगतता सुनिश्चित करती है, साथ ही विशिष्ट Vulkan निष्पादन त्रुटियों को ठीक करती है।