llama.cpp b10051 ने SME बनाम SME2 kernel dispatch अंतर को ठीक किया

llama.cpp प्रोजेक्ट ने संस्करण b10051 जारी किया, जो Scalable Matrix Extension (SME) क्षमताओं के एकीकरण में एक महत्वपूर्ण समस्या को संबोधित करता है। अपडेट में सही kernel dispatch सुनिश्चित करने के लिए SME(v1) और SME2 के बीच build-time और runtime अंतर शामिल है।

• पिछले संस्करणों ने SME को एकल क्षमता माना, जिसके कारण वे केवल SME(v1) का समर्थन करने वाले हार्डवेयर पर गलत तरीके से SME2-विशिष्ट निर्देश भेज रहे थे।
• ठीक करने में, वास्तविक हार्डवेयर समर्थन के आधार पर SME(v1) और SME2 kernels को जोड़ा गया है, जिससे केवल SME(v1)-सिस्टम पर गलत निष्पादन रोका गया है।
• बाइनरी macOS (Apple Silicon और Intel), Linux (x64, arm64, s390x, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, HIP, OpenVINO, SYCL), और openEuler के लिए उपलब्ध हैं।

यह बदलाव CPU द्वारा समर्थित विशिष्ट SME संस्करण का सम्मान करते हुए, llama.cpp को अधिक व्यापक ARM हार्डवेयर पर सही ढंग से चलाना सुनिश्चित करता है।