llama.cpp b10926 रिलीज असमर्थित tq1_0 क्वांट्स को सहजता से संभालती है

llama.cpp प्रोजेक्ट ने संस्करण b10926 जारी किया है, जिसमें असमर्थित tq1_0 क्वांटीज़ेशन को विफल होकर संभालने के लिए एक सुधार शामिल है। यह अपडेट इस विशिष्ट क्वांटीज़ेशन फॉर्मेट का सामना करते समय स्थिरता में सुधार करने के लिए मुद्दा #28681 को संबोधित करता है।

रिलीज में macOS (Apple Silicon और Intel), Linux (CPU, Vulkan, ROCm 10.0, OpenVINO, और SYCL बैकएंड्स के साथ Ubuntu), Android (arm64), Windows (CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, और ROCm 10.0), और openEuler आर्किटेक्चर के लिए बाइनरीज़ प्रदान की गई हैं।

यह अपडेट सुनिश्चित करता है कि उपयोगकर्ता मॉडल tq1_0 क्वांटीज़ेशन स्कीम का उपयोग करते समय क्रैश किए बिना llama.cpp का उपयोग जारी रख सकें।