llama.cpp प्रोजेक्ट ने संस्करण b10042 जारी किया है, जो Volta और Turing आर्किटेक्चर GPU पर CUDA ग्राफ्स को सक्षम करने का समर्थन पेश करता है।
- इस रिलीज़ में macOS (Apple Silicon और Intel), Linux (Ubuntu x64, arm64, s390x), Android (arm64), Windows (CPU, OpenCL, Vulkan, ROCm, SYCL, HIP) और openEuler के लिए बाइनरी शामिल हैं।
- CUDA समर्थन Windows x64 के लिए CUDA 12.4 और CUDA 13.3 DLLs के माध्यम से प्रदान किया गया है।
- इस संस्करण में KleidiAI के साथ macOS Apple Silicon बिल्ड्स स्पष्ट रूप से अक्षम हैं।
- openEuler समर्थन में x86 और aarch64 वेरिएंट शामिल हैं, जहाँ 910b वेरिएंट के लिए ACL Graph सक्षम है।
यह अपडेट पुराने NVIDIA GPU आर्किटेक्चर वाले उपयोगकर्ताओं को संभावित प्रदर्शन सुधारों के लिए CUDA ग्राफ्स का उपयोग करने की अनुमति देता है।