El proyecto llama.cpp ha lanzado la versión b9940, introduciendo una inicialización para el parámetro `params.offline` en `llama-bench`. Esta actualización viene acompañada de un conjunto integral de binarios precompilados para múltiples sistemas operativos y aceleradores de hardware.
- Están disponibles compilaciones para macOS Apple Silicon (arm64) e Intel (x64), con el soporte de KleidiAI deshabilitado.
- Los binarios de Linux cubren Ubuntu x64 y arm64 CPU, Vulkan, ROCm 7.2, OpenVINO y SYCL FP32/FP16.
- Las versiones para Windows incluyen variantes para CPU, OpenCL Adreno, CUDA 12.4/13.3, Vulkan, OpenVINO, SYCL e HIP.
- Se proporcionan binarios Android arm64 (CPU) e iOS XCFramework para implementación móvil.
- Se incluyen compilaciones de openEuler para las arquitecturas x86 y aarch64 con soporte para ACL Graph.
El lanzamiento proporciona herramientas actualizadas para la evaluación de parámetros offline junto con una amplia compatibilidad multiplataforma para la inferencia local de modelos.