llama.cpp प्रोजेक्ट ने बिल्ड b10198 जारी किया है, जिसने Vulkan बैकएंड के भीतर क्वांटाइज्ड कॉन्कैटनेशन ऑपरेशंस के लिए सपोर्ट पेश किया है।
- प्राथमिक तकनीकी अपडेट pull request #25684 में लागू क्वांटाइज्ड concat के लिए Vulkan सपोर्ट की जोड़ है।
- इस रिलीज़ में KleidiAI के साथ macOS Apple Silicon बिल्ड्स स्पष्ट रूप से अक्षम हैं।
- macOS (Apple Silicon और Intel), Linux (Ubuntu x64, arm64, s390x), Windows (CPU, CUDA 12/13, Vulkan, ROCm, OpenVINO, SYCL, HIP), Android, और openEuler सहित कई प्लेटफॉर्म के लिए बाइनरी प्रदान की गई हैं।
- रिलीज़ पैकेज में एक स्टैंडअलोन UI बाइनरी भी शामिल है।