Proyek llama.cpp telah merilis versi b9803, yang mencakup perbaikan untuk OpenCL guna flushing batch profil saat shutdown untuk batch yang tidak lengkap. Pembaruan ini menyediakan biner untuk macOS, Linux, Windows, Android, dan openEuler di berbagai backend perangkat keras.

  • Build macOS Apple Silicon (arm64) dan Intel (x64) tersedia, dengan KleidiAI dinonaktifkan.
  • Linux mendukung Ubuntu x64 dan arm64 CPU, Vulkan, ROCm 7.2, OpenVINO, dan SYCL FP32/FP16.
  • Windows menawarkan build CPU, CUDA 12.4/13.3, Vulkan, OpenVINO, SYCL, HIP, dan OpenCL Adreno.
  • Biner Android arm64 (CPU) dan iOS XCFramework disertakan.
  • openEuler mendukung x86 dan aarch64 dengan ACL Graph, sementara pull request openEuler standar dinonaktifkan.

Rilis ini memastikan kompatibilitas di berbagai konfigurasi perangkat keras dan memperbaiki penanganan data profil untuk pengguna OpenCL.