El proyecto llama.cpp ha lanzado la versión b9838, proporcionando binarios precompilados para una amplia gama de sistemas operativos y aceleradores de hardware. Esta versión incluye soporte para CPU, GPU (CUDA, Vulkan, ROCm, OpenCL) y aceleradores de IA especializados en macOS, Linux, Windows, Android y openEuler.
- Compilaciones para macOS disponibles para Apple Silicon (arm64) e Intel (x64), con el soporte de KleidiAI deshabilitado.
- Binarios para Linux proporcionados para las arquitecturas Ubuntu x64, arm64 y s390x, incluyendo variantes de CPU, Vulkan, ROCm 7.2, OpenVINO y SYCL.
- Las versiones para Windows incluyen compilaciones de CPU, CUDA 12/13, Vulkan, OpenCL Adreno, OpenVINO, SYCL e HIP para x64 y arm64.
- El soporte para Android se limita a compilaciones de CPU para arm64.
- Las compilaciones para openEuler están disponibles para las arquitecturas x86 y aarch64 utilizando ACL Graph, con el soporte estándar de openEuler deshabilitado.
El lanzamiento permite a los usuarios desplegar llama.cpp en diversas configuraciones de hardware sin necesidad de compilar desde el código fuente.