Le projet llama.cpp a publié la version b9925, qui inclut une mise à jour spécifique de son backend CUDA. Cette release ajoute le support de l'opération GGML_OP_SET_ROWS de f16 vers f16, comblant ainsi un manque de couverture des kernels GPU.
- Des binaires pour macOS Apple Silicon et Intel sont fournis, avec KleidiAI explicitement désactivé sur Apple Silicon.
- Les builds Linux couvrent le CPU (x64, arm64, s390x) et divers accélérateurs incluant Vulkan, ROCm 7.2, OpenVINO et SYCL FP32/FP16.
- Les releases Windows incluent les variantes CPU, OpenCL Adreno, Vulkan, HIP, OpenVINO, SYCL et CUDA 12/13.
- Des binaires Android arm64 (CPU) et iOS XCFramework sont disponibles pour le déploiement mobile.
- Le support openEuler est partiellement désactivé, avec des builds spécifiques conservés pour les architectures x86 et aarch64 utilisant ACL Graph.
Cette mise à jour assure une compatibilité matérielle plus large pour les utilisateurs de llama.cpp en activant l'opération set rows manquante sur les appareils CUDA et en fournissant des binaires précompilés sur les principaux systèmes d'exploitation et fournisseurs de GPU.