llama.cpp परियोजना ने संस्करण b9946 जारी किया है, जिसमें Qualcomm Hexagon प्रोसेसर के लिए महत्वपूर्ण अनुकूलन और कई प्लेटफ़ॉर्मों के लिए नए बिल्ड आर्टिफैक्ट्स शामिल हैं।
- Hexagon एकल संक्रियाएं अब VTCM ओवरफ़्लो से बचने के लिए चौड़ी पंक्तियों को टाइल करती हैं और भागना fastdiv से बदल देती हैं।
- अपडेट में ट्रैसिंग इंस्ट्रुमेंटेशन और कोड जनरेशन में सुधार के लिए सरलीकृत HVX kernels शामिल हैं।
- macOS Apple Silicon बाइनरी उपलब्ध हैं, हालांकि KleidiAI समर्थन अक्षम बना हुआ है।
- नए Linux बिल्ड CPU, Vulkan, ROCm 7.2, OpenVINO, और SYCL लक्ष्यों को कवर करते हैं।
- Windows रिलीज़ में अब मौजूदा CUDA 12, OpenCL, और HIP विकल्पों के साथ CUDA 13 समर्थन शामिल है।
यह रिलीज़ डेस्कटॉप और मोबाइल वातावरण के लिए अद्यतित बाइनरी प्रदान करती है जबकि Hexagon-आधारित हार्डवेयर पर प्रदर्शन में सुधार करती है।