llama.cpp प्रोजेक्ट ने संस्करण b11035 जारी किया है, जिसने अपने Vulkan बैकएंड में IQ3_S MMQ मैट्रिक्स गुणा kernels का समर्थन पेश किया है।
- अपडेट में Vulkan के लिए नए IQ3_S MMQ matmul kernels शामिल हैं।
- Block_a_to_shmem अब मेमोरी एक्सेस को अनुकूलित करने के लिए 2-बाइट लोड करता है।
- IQ3_S K tile आकार का उपयोग करता है, इसलिए अलाइनमेंट चेक समायोजित किए गए हैं।
- बाइनरी macOS, Linux, Windows, Android और openEuler के लिए CPU, CUDA, ROCm, OpenVINO, SYCL और OpenCL प्लेटफार्मों पर उपलब्ध हैं।
यह रिलीज विभिन्न ऑपरेटिंग सिस्टम और हार्डवेयर एक्सेलेरेटर के लिए अपडेटेड बाइनरी प्रदान करती है, जिससे उपयोगकर्ता नए Vulkan क्वांटीकरण समर्थन का लाभ उठा सकते हैं।