llama.cpp प्रोजेक्ट ने संस्करण b10327 जारी किया, जिसमें CUDA पर क्वांटाइज्ड कॉपी kernel लॉन्च में थ्रेड और ब्लॉक गणना के लिए एक सुधार शामिल है। यह अपडेट pull request #26731 में पहचाने गए एक मुद्दे को संबोधित करता है।

  • सहीता सुनिश्चित करने के लिए रिलीज में असमान ब्लॉक गणना कॉपी मामलों के लिए परीक्षण जोड़े गए हैं।
  • macOS (Apple Silicon और Intel), Linux (CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL), Android, Windows (CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) और openEuler के लिए बाइनरी उपलब्ध हैं।
  • एक iOS XCFramework और एक स्टैंडअलोन UI बिल्ड भी प्रदान किया गया है।

यह रिलीज व्यापक रूप से समर्थित प्लेटफॉर्म पर CUDA हार्डवेयर पर क्वांटाइज्ड कॉपी संचालन के स्थिर निष्पादन को सुनिश्चित करती है।