llama.cpp परियोजना ने संस्करण b10410 जारी किया है, जिसमें SYCL बैकएंड के लिए कोड परिवर्तन शामिल है। इस अपडेट ने GEMM non-oneDNN पथ में अलग fp32 प्रकार प्रमोशन को हटा दिया और इसके बजाय स्वचालित fp16 प्रमोशन का उपयोग किया है।
- रिलीज में macOS (Apple Silicon और Intel), Linux (Ubuntu x64, arm64, s390x, Vulkan, OpenVINO, SYCL FP32/FP16), Android, Windows (CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, ROCm 7.14) और openEuler के लिए बाइनरी प्रदान किए गए हैं।
- इस रिलीज में macOS Apple Silicon KleidiAI समर्थन अक्षम है।
- Ubuntu x64 ROCm 7.14 समर्थन भी अक्षम है।
- UI घटक एक अलग डाउनलोड के रूप में उपलब्ध है।
यह अपडेट स्पष्ट हैंडलिंग के बजाय स्वचालित प्रकार प्रमोशन पर निर्भर करके SYCL GEMM कार्यान्वयन को सरल बनाता है।