llama.cpp परियोजना ने बिल्ड b11207 जारी किया, जिसमें Hexagon बैकएंड पर टाइल्ड Q4_0 और Q8_0 GET_ROWS ऑपरेशन के लिए समर्थन पेश किया गया है। इस अपडेट में मैक्रोज़, रजिस्टर स्पिल्स और DMA पाइपलाइन के लिए सुधार भी शामिल हैं, साथ ही कर्नेल चयन तर्क में सुधार और पुनः सक्षम वेक्टराइज़ेशन।
- टाइल्ड HVX डीक्वांटीज़ेशन का उपयोग करके Hexagon के लिए Q4_0 और Q8_0 GET_ROWS के लिए टाइल्ड समर्थन जोड़ा गया।
- hex-get-rows में मैक्रोज़ और रजिस्टर स्पिल्स को ठीक किया गया जबकि असमर्थित ऑपरेशन के लिए जाँचों को साफ़ किया गया।
- DMA पाइपलाइन को बेहतर बनाया गया और कर्नेल चयन तर्क को सरल बनाया गया।
- एक सैंपलर अपडेट के दौरान एक रgression की पहचान करने के बाद वेक्टराइज़र को पुनः सक्षम किया गया।
रिलीज़ में CPU, GPU, NPU, CUDA, ROCm, Vulkan, OpenVINO और SYCL सहित विभिन्न हार्डवेयर बैकएंड्स के लिए macOS, Linux, Windows, Android और openEuler के लिए बाइनरी प्रदान की गई हैं।