Proyek llama.cpp telah merilis versi b10042, yang memperkenalkan dukungan untuk mengaktifkan grafik CUDA pada GPU arsitektur Volta dan Turing.

  • Rilis ini mencakup biner untuk macOS (Apple Silicon dan Intel), Linux (Ubuntu x64, arm64, s390x), Android (arm64), Windows (CPU, OpenCL, Vulkan, ROCm, SYCL, HIP), dan openEuler.
  • Dukungan CUDA disediakan melalui DLL CUDA 12.4 dan CUDA 13.3 untuk Windows x64.
  • Build macOS Apple Silicon dengan KleidiAI secara eksplisit dinonaktifkan dalam versi ini.
  • Dukungan openEuler mencakup varian x86 dan aarch64, dengan ACL Graph diaktifkan untuk varian 910b.

Pembaruan ini memungkinkan pengguna pada arsitektur GPU NVIDIA yang lebih lama untuk memanfaatkan grafik CUDA guna peningkatan kinerja potensial.