OpenCL प्रोफाइलिंग फिक्स के साथ llama.cpp b9803 रिलीज

llama.cpp प्रोजेक्ट ने संस्करण b9803 जारी किया है, जिसमें OpenCL को अपूर्ण बैचों के लिए शटडाउन पर प्रोफाइलिंग बैच फ्लश करने का फिक्स शामिल है। यह अपडेट विभिन्न हार्डवेयर बैकएंड्स के लिए macOS, Linux, Windows, Android और openEuler के लिए बाइनरीज प्रदान करता है।

• macOS Apple Silicon (arm64) और Intel (x64) बिल्ड्स उपलब्ध हैं, जिनमें KleidiAI अक्षम है।
• Linux Ubuntu x64 और arm64 CPU, Vulkan, ROCm 7.2, OpenVINO और SYCL FP32/FP16 का समर्थन करता है।
• Windows CPU, CUDA 12.4/13.3, Vulkan, OpenVINO, SYCL, HIP और OpenCL Adreno बिल्ड्स प्रदान करता है।
• Android arm64 (CPU) और iOS XCFramework बाइनरीज शामिल हैं।
• openEuler ACL Graph के साथ x86 और aarch64 का समर्थन करता है, जबकि मानक openEuler पुल रिक्वेस्ट अक्षम है।

रिलीज विविध हार्डवेयर कॉन्फ़िगरेशन के साथ संगतता सुनिश्चित करती है और OpenCL उपयोगकर्ताओं के लिए प्रोफाइलिंग डेटा हैंडलिंग को ठीक करती है।