llama.cpp प्रोजेक्ट ने संस्करण b11206 जारी किया, जिसमें Hexagon बैकएंड सैंपलर के लिए समर्थन पेश किया गया है। इस अपडेट में सैंपलिंग पाइपलाइन और Hexagon NPU पर ऑपरेशन में कई बदलाव शामिल हैं।
- hex-sampler में STEP और SUM ऑपरेशन जोड़े गए।
- सैंपलिंग मामलों का समर्थन करने के लिए CPY को अपडेट किया गया।
- बड़े logits को संभालने के लिए hex-binary में chunking समर्थन जोड़ा गया।
- hex-argmax के लिए ARGMAX का एक बुनियादी संस्करण लागू किया गया।
- dim 2 स्लाइसों के पार dim 1 ब्रॉडकास्ट के लिए इंडेक्सिंग समस्याएं ठीक कीं।
- महत्वपूर्ण लूप के लिए स्पष्ट संकेतों का उपयोग करने के लिए स्वचलित वेक्टराइज़र को अक्षम कर दिया गया।
रिलीज में CPU, GPU और NPU सहित विभिन्न हार्डवेयर बैकएंड्स के लिए macOS, Linux, Windows, Android और openEuler के लिए बाइनरी प्रदान की गई हैं।