llama.cpp परियोजना ने संस्करण b9959 जारी किया है, जिसमें ggml लाइब्रेरी के साथ एक सिंक शामिल है। यह अपडेट कई प्लेटफॉर्म और हार्डवेयर विन्यासों में पूर्व-निर्मित बाइनरी प्रदान करता है।

  • macOS Apple Silicon (arm64) और Intel (x64) बिल्ड उपलब्ध हैं, हालांकि KleidiAI समर्थन अक्षम है।
  • Linux बाइनरी Ubuntu x64, arm64, और s390x CPU वेरिएंट को कवर करते हैं, साथ ही Vulkan, ROCm 7.2, OpenVINO, और SYCL FP32/FP16 विकल्पों के साथ।
  • Windows रिलीज में CPU, Vulkan, OpenCL Adreno, CUDA 12.4/13.3, OpenVINO, SYCL, और HIP बिल्ड शामिल हैं।
  • मोबाइल डिप्लॉयमेंट के लिए Android arm64 (CPU) बाइनरी प्रदान की गई है।
  • openEuler समर्थन में ACL Graph के साथ x86 और aarch64 वेरिएंट शामिल हैं, जबकि कुछ openEuler विन्यास अक्षम रहते हैं।
  • रिलीज में एक स्टैंडअलोन UI पैकेज भी शामिल है।