El proyecto llama.cpp ha lanzado la versión b9949, introduciendo una nueva función OpenCL para GPUs Adreno. Esta actualización implementa Flash Attention (FA) con descodificación en paralelo por clúster para mejorar el rendimiento en hardware compatible.
- Están disponibles binarios para macOS Apple Silicon e Intel.
- Se incluye un XCFramework para iOS en la versión.
- Las compilaciones de Linux cubren variantes de CPU, Vulkan, ROCm 7.2, OpenVINO y SYCL para las arquitecturas x64, arm64 y s390x.
- El soporte para Windows incluye binarios de CPU, Vulkan, HIP, OpenVINO, SYCL y CUDA 12/13.
- Se proporcionan compilaciones de CPU arm64 para Android.
- El soporte de KleidiAI en macOS Apple Silicon está desactivado en esta versión.