llama.cpp प्रोजेक्ट ने बिल्ड b10813 जारी किया, जिसमें xmem SDPA (Scaled Dot-Product Attention) पथ का उपयोग करके Adreno GPUs के लिए OpenCL कार्यान्वयन शामिल है। यह अपडेट GQA और मास्क्ड एटेंशन तंत्र में संख्यात्मक त्रुटियों को भी दूर करता है।
- OpenL एक्सेलरेशन के लिए Adreno xmem SDPA पथ जोड़ा गया।
- Adreno-विशिष्ट क्यू प्रोफाइलिंग ओवरराइड हटाया गया।
- GQA और मास्क्ड एटेंशन में संख्यात्मक त्रुटियाँ ठीक की गईं।
- सुविधा को नियंत्रित करने के लिए GGML_OPENCL_XMEM_SDPA पर्यावरण चर पेश किया गया।
रिलीज में CPU, GPU और विशेष हार्डवेयर बैकएंड्स के लिए macOS, Linux, Windows, Android और openEuler के लिए बाइनरी प्रदान की गई हैं।