Le projet llama.cpp a publié la version b9940, introduisant une initialisation pour le paramètre `params.offline` dans `llama-bench`. Cette mise à jour est accompagnée d'un ensemble complet de binaires préconstruits sur plusieurs systèmes d'exploitation et accélérateurs matériels.
- Les builds macOS Apple Silicon (arm64) et Intel (x64) sont disponibles, avec le support KleidiAI désactivé.
- Les binaires Linux couvrent Ubuntu x64 et arm64 CPU, Vulkan, ROCm 7.2, OpenVINO et SYCL FP32/FP16.
- Les versions Windows incluent les variantes CPU, OpenCL Adreno, CUDA 12.4/13.3, Vulkan, OpenVINO, SYCL et HIP.
- Des binaires Android arm64 (CPU) et iOS XCFramework sont fournis pour le déploiement mobile.
- Les builds openEuler pour les architectures x86 et aarch64 avec support ACL Graph sont inclus.
La release fournit des outils mis à jour pour le benchmarking des paramètres hors ligne, ainsi qu'une large compatibilité multi-plateforme pour l'inférence de modèles locaux.