llama.cpp परियोजना ने संस्करण b9965 जारी किया, जिसमें hexagon बैकएंड के माध्यम से छोटे टेन्सरों पर ARGSORT ऑपरेशन के लिए एक महत्वपूर्ण अनुकूलन शामिल है। इस अपडेट में HVX रजिस्टर का उपयोग करके एक कुशल बिटोमिक सॉर्ट कार्यान्वयन पेश किया गया है जो 1024 तत्वों तक संभाल सकता है।
- 1024 तत्वों तक के लिए HVX रजिस्टर में कुशल बिटोमिक सॉर्ट जोड़ा गया।
- hex-sort मॉड्यूल में उल्टे VROR को ठीक किया गया।
- सामान्य मामलों के लिए विशेष सॉर्ट फ़ंक्शन और ट्रेसिंग/स्थानीय संदर्भ जोड़ा गया।
- KleidiAI के साथ macOS Apple Silicon (arm64) बिल्ड अब अक्षम हैं।
इस रिलीज़ में CUDA, Vulkan, ROCm और OpenVINO सहित विभिन्न CPU और GPU बैकएंड के लिए macOS, Linux, Android, Windows और openEuler के लिए अपडेटेड बाइनरी प्रदान की गई हैं।