llama.cpp परियोजना ने संस्करण b11097 जारी किया है, जिसमें A8 Q4_0 non-MoE dp4a प्रारूप के लिए एक OpenCL बाइनरी कर्नेल पेश किया गया है।

  • अपडेट में नए dp4a कर्नेल के माध्यम से विशिष्ट A8 Q4_0 क्वांटीकरण प्रारूप के लिए समर्थन जोड़ा गया है।
  • macOS (Apple Silicon और Intel), Linux (CPU, Vulkan, CUDA 12/13, ROCm 10.0, OpenVINO, SYCL), Windows (CPU, Vulkan, CUDA 12/13, ROCm 10.0, OpenVINO, SYCL), Android और openEuler के लिए बाइनरी प्रदान किए गए हैं।
  • रिलीज संपत्तियों में एक iOS XCFramework और एक स्टैंडअलोन UI बिल्ड भी शामिल है।