Le projet llama.cpp a publié la version b10042, qui introduit le support de l'activation des graphes CUDA sur les GPU d'architecture Volta et Turing.

  • La release inclut des binaires pour macOS (Apple Silicon et Intel), Linux (Ubuntu x64, arm64, s390x), Android (arm64), Windows (CPU, OpenCL, Vulkan, ROCm, SYCL, HIP) et openEuler.
  • Le support CUDA est fourni via les DLL CUDA 12.4 et CUDA 13.3 pour Windows x64.
  • Les builds macOS Apple Silicon avec KleidiAI sont explicitement désactivés dans cette version.
  • La prise en charge d'openEuler inclut les variantes x86 et aarch64, avec ACL Graph activé pour la variante 910b.

Cette mise à jour permet aux utilisateurs disposant d'anciennes architectures GPU NVIDIA d'utiliser les graphes CUDA pour des améliorations de performance potentielles.