llama.cpp प्रोजेक्ट ने build b10180 जारी किया है, जिसमें SYCL backend के लिए प्रदर्शन अनुकूलन शामिल हैं। अपडेट में contiguous fast path लागू किया गया है और elementwise index math को 32-bit पूर्णांकों के साथ fastdiv का उपयोग करने के लिए बदल दिया गया है।

  • SYCL: unary elementwise ऑपरेशन्स के लिए contiguous fast path + 32-bit index math
  • SYCL: elementwise index math के लिए fastdiv का उपयोग करें

इस रिलीज में CPU, GPU और विभिन्न एक्सेलेरेटर backends के लिए macOS, Linux, Windows, Android और openEuler के लिए बाइनरी प्रदान किए गए हैं।