Proyek llama.cpp telah merilis versi b9940, memperkenalkan inisialisasi untuk parameter `params.offline` di `llama-bench`. Pembaruan ini disertai dengan sekumpulan lengkap binari pra-bangun di berbagai sistem operasi dan akselerator perangkat keras.

  • Build macOS Apple Silicon (arm64) dan Intel (x64) tersedia, dengan dukungan KleidiAI dinonaktifkan.
  • Binari Linux mencakup Ubuntu x64 dan arm64 CPU, Vulkan, ROCm 7.2, OpenVINO, dan SYCL FP32/FP16.
  • Rilis Windows mencakup varian CPU, OpenCL Adreno, CUDA 12.4/13.3, Vulkan, OpenVINO, SYCL, dan HIP.
  • Binari Android arm64 (CPU) dan iOS XCFramework disediakan untuk penyebaran seluler.
  • Build openEuler untuk arsitektur x86 dan aarch64 dengan dukungan ACL Graph disertakan.

Rilis ini menyediakan alat pembaruan untuk benchmarking parameter offline bersama dengan kompatibilitas lintas-platform yang luas untuk inferensi model lokal.