llama.cpp परियोजना ने संस्करण b11147 जारी किया है, जिसने OpenCL के लिए एक नया बाइनरी kernel पेश किया है। यह अपडेट विशेष रूप से A8 Q6_K non-MoE dp4a कॉन्फ़िगरेशन के लिए समर्थन जोड़ता है।

  • OpenCL के लिए एक A8 Q6_K non-MoE dp4a बाइनरी kernel जोड़ा गया है।
  • macOS (Apple Silicon और Intel), iOS, Linux (CPU, Vulkan, CUDA, ROCm, OpenVINO, SYCL, Snapdragon), Android, Windows (CPU, Adreno, CUDA, Vulkan, OpenVINO, SYCL, ROCm) और openEuler के लिए बाइनरी प्रदान किए गए हैं।

यह रिलीज़ उपयोगकर्ताओं को नवीनतम kernel अनुकूलनों के साथ व्यापक हार्डवेयर प्लेटफ़ॉर्म पर llama.cpp चलाने की सुविधा देती है।