llama.cpp प्रोजेक्ट ने बिल्ड b10754 जारी किया, जिसमें इमेज प्रोसेसिंग kernels में ओवर-बाउंड मेमोरी रीडिंग को रोकने के लिए Adreno GPUs पर OpenCL के लिए एक महत्वपूर्ण सुधार शामिल है।
- q4_K डिकोड GEMV फ़ेच रो अब पैडेड x-ग्रिड पर क्लैम्प किया गया है।
- इमेज KQ/KQV GEMMs के लिए टाइलिंग कॉन्ट्रैक्ट को सख्ती से लागू किया गया है।
- इमेज KQ/KQV के लिए स्प्लिट लॉजिक डिसपैच समय पर निर्धारित किया जाता है, न कि स्टाइड्स पर निर्भर रहकर।
यह अपडेट Adreno हार्डवेयर पर OpenCL एक्सेलरेशन के साथ llama.cpp चलाते हुए उपयोगकर्ताओं के लिए स्थिरता और सही कार्यक्षमता सुनिश्चित करता है।