llama.cpp परियोजना ने संस्करण b11054 जारी किया, जिसमें Qualcomm Hexagon DSPs पर TOP_K ऑपरेटर के लिए समर्थन जोड़ा गया है। इस अपडेट में सिंगल-रो प्रसंस्करण के लिए अनुकूलन और रो विभाजन के लिए सुधार शामिल हैं।
- पुल अनुरोध #29113 के माध्यम से TOP_K ऑपरेटर के लिए Hexagon समर्थन सक्षम किया गया है।
- बड़े-रो चयन को अनुकूलित किया और VTCM-आधारित आकार सीमा बढ़ाई गई है।
- TOP_K mdev रो विभाजन समस्याओं को ठीक किया गया है।
- नए TOP_K समर्थन सूचियों को दर्शाने के लिए दस्तावेज़ीकरण को अपडेट किया गया है।
इस रिलीज में CPU, CUDA, ROCm, Vulkan और OpenVINO सहित विभिन्न हार्डवेयर बैकएंड्स पर macOS, Linux, Windows, Android और openEuler के लिए बाइनरी प्रदान की गई हैं।