llama.cpp प्रोजेक्ट ने b9894 बिल्ड जारी की, जिसमें Vulkan बैकएंड के लिए एक सुधार शामिल है जो f16 सपोर्ट के न होने के कारण GGML_OP_SET_ROWS में होने वाले विफलताओं को रोकता है।

  • Vulkan इम्प्लीमेंटेशन अब GGML_OP_SET_ROWS में src0 टाइप की जांच करता है ताकि f16 सपोर्ट न होने के कारण क्रैश से बचा जा सके।
  • macOS बिल्ड Apple Silicon (arm64) और Intel (x64) के लिए उपलब्ध हैं, जहाँ Apple Silicon पर KleidiAI अक्षम है।
  • Linux बाइनरी CPU, Vulkan, ROCm 7.2, OpenVINO, और SYCL बैकएंड के लिए Ubuntu x64, arm64, और s390x को कवर करती हैं।
  • Android सपोर्ट में arm64 CPU बिल्ड शामिल हैं।
  • Windows बाइनरी CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, और HIP विकल्प प्रदान करते हैं।
  • ACL Graph के साथ openEuler x86 और aarch64 बिल्ड उपलब्ध हैं, जबकि openEuler x86 (310p) अक्षम है।

यह रिलीज विशिष्ट टाइप-चेकिंग समस्या को संबोधित करके Vulkan इन्फरेंस पर निर्भर उपयोगकर्ताओं के लिए स्थिरता सुनिश्चित करती है।