O projeto llama.cpp lançou a versão b10042, que introduz suporte para habilitar gráficos CUDA em GPUs das arquiteturas Volta e Turing.

  • O lançamento inclui binários para macOS (Apple Silicon e Intel), Linux (Ubuntu x64, arm64, s390x), Android (arm64), Windows (CPU, OpenCL, Vulkan, ROCm, SYCL, HIP) e openEuler.
  • O suporte a CUDA é fornecido via DLLs do CUDA 12.4 e CUDA 13.3 para Windows x64.
  • As compilações do macOS Apple Silicon com KleidiAI estão explicitamente desabilitadas nesta versão.
  • O suporte ao openEuler inclui variantes x86 e aarch64, com ACL Graph habilitado para a variante 910b.

Esta atualização permite que usuários de arquiteturas de GPU NVIDIA mais antigas utilizem gráficos CUDA para possíveis melhorias de desempenho.