llama.cpp परियोजना ने Hexagon बैकएंड में FP32 GELU_ERF और GEGLU_ERF सक्रियण फ़ंक्शंस के लिए समर्थन पेश करते हुए संस्करण b11260 जारी किया है। इस अपडेट में संबंधित कर्नेल के भीतर रजिस्टर प्रेशर कम करने के लिए अनुकूलन भी शामिल हैं।
- Hexagon के लिए FP32 GELU_ERF और GEGLU_ERF समर्थन जोड़ा गया।
- hexagon कर्नेल में रजिस्टर प्रेशर कम किया गया।
- macOS Apple Silicon, Intel, और iOS के लिए बाइनरी उपलब्ध हैं।
- Linux बिल्ड CPU, Vulkan, CUDA 12/13, ROCm 10.0, OpenVINO, SYCL, और Snapdragon प्लेटफ़ॉर्म को कवर करते हैं।
- Android arm64 बिल्ड में Snapdragon Hexagon NPU के लिए समर्थन शामिल है।
- Windows रिलीज़ CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, और ROCm 10.0 विकल्प प्रदान करते हैं।
यह रिलीज़ विशिष्ट सक्रियण फ़ंक्शंस के लिए हार्डवेयर संगतता को विस्तारित करती है और समर्थित एक्सेलेरेटरों पर दक्षता में सुधार करती है।