llama.cpp b11216 रिलीज़ ने SYCL बैकएंड में Fast Walsh-Hadamard Transform (FWHT) kernels पेश किए हैं जो 512 से बड़ी ब्लॉक चौड़ाई का समर्थन करते हैं। पहले, बड़ी चौड़ाई O(n^2) जटिलता के साथ एक घनत्वपूर्ण GEMM पर वापस आ जाती थी; यह बदलाव इन आकारों के लिए O(n log n) प्रदर्शन सक्षम बनाता है।
- नया `fwht_kernel_wide` कार्यान्वयन प्रति वर्क-ग्रुप एक पंक्ति चलाता है और बाटरफ्लाई ऑपरेशन को अनुकूलित करने के लिए स्थानीय मेमोरी और रजिस्टर का उपयोग करता है।
- यह Kronecker/Paley निर्माण के माध्यम से 1024, 2048, 4096, और 8192 की ब्लॉक चौड़ाई का समर्थन करता है।
- इस रिलीज़ में CPU, GPU, और NPU बैकएंड पर macOS, Linux, Windows, Android, और openEuler के लिए बाइनरी शामिल हैं।
- सत्यापन Intel oneAPI DPC++ 2026.1 SYCL CPU डिवाइस पर एक स्वतंत्र हार्नेस का उपयोग करके किया गया था, जिसने संदर्भ कार्यान्वयन के सापेक्ष सहीता की पुष्टि की।
यह अपडेट SYCL वातावरण में बड़े ब्लॉक आकारों के लिए गणनात्मक दक्षता को बेहतर बनाता है, मौजूदा हार्डवेयर विन्यासों के साथ संगतता बनाए रखते हुए।