El proyecto llama.cpp ha lanzado la versión b10042, que introduce soporte para habilitar gráficos CUDA en GPUs de las arquitecturas Volta y Turing.

  • El lanzamiento incluye binarios para macOS (Apple Silicon e Intel), Linux (Ubuntu x64, arm64, s390x), Android (arm64), Windows (CPU, OpenCL, Vulkan, ROCm, SYCL, HIP) y openEuler.
  • El soporte de CUDA se proporciona a través de DLLs de CUDA 12.4 y CUDA 13.3 para Windows x64.
  • Las compilaciones de macOS Apple Silicon con KleidiAI están explícitamente deshabilitadas en esta versión.
  • El soporte de openEuler incluye variantes x86 y aarch64, con ACL Graph habilitado para la variante 910b.

Esta actualización permite a los usuarios de arquitecturas de GPU NVIDIA más antiguas utilizar gráficos CUDA para posibles mejoras de rendimiento.