llama.cpp प्रोजेक्ट ने संस्करण b9918 जारी किया है, जिसमें pull request #25434 के माध्यम से `src0 f16` समर्थन के साथ एक `set_rows` फ़ंक्शन जोड़ा गया है। इस अपडेट को Georgi Gerganov ने सह-लेखक के रूप में किया है।

  • macOS Apple Silicon (arm64) बाइनरी उपलब्ध हैं, जबकि KleidiAI समर्थन अक्षम बना हुआ है।
  • Linux बिल्ड CPU, Vulkan, ROCm 7.2, OpenVINO और SYCL FP32/FP16 के लिए Ubuntu x64 और arm64 को कवर करते हैं।
  • Android arm64 CPU बाइनरी प्रदान किए गए हैं।
  • Windows रिलीज में CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL और HIP वेरिएंट शामिल हैं।
  • x86 और aarch64 आर्किटेक्चर के लिए openEuler समर्थन सूचीबद्ध है, जिसमें कुछ कॉन्फ़िगरेशन अक्षम हैं।
  • रिलीज में एक स्टैंडअलोन UI बाइनरी भी शामिल है।