llama.cpp प्रोजेक्ट ने संस्करण b9949 जारी किया है, जिसमें Adreno GPUs के लिए एक नई OpenCL सुविधा पेश की गई है। इस अपडेट में संगत हार्डवेयर पर प्रदर्शन को बेहतर बनाने के लिए क्लस्टर-पैरेलल डिकोड फ्लैश एटेंशन (FA) लागू किया गया है।
- macOS Apple Silicon और Intel बाइनरी उपलब्ध हैं।
- iOS XCFramework रिलीज़ में शामिल है।
- Linux बिल्ड्स x64, arm64, और s390x आर्किटेक्चर के लिए CPU, Vulkan, ROCm 7.2, OpenVINO, और SYCL वेरिएंट को कवर करते हैं।
- Windows समर्थन में CPU, Vulkan, HIP, OpenVINO, SYCL, और CUDA 12/13 बाइनरी शामिल हैं।
- Android arm64 CPU बिल्ड्स प्रदान किए गए हैं।
- इस संस्करण में macOS Apple Silicon पर KleidiAI समर्थन अक्षम है।