Proyek llama.cpp telah merilis versi b9949, memperkenalkan fitur OpenCL baru untuk GPU Adreno. Pembaruan ini mengimplementasikan Flash Attention (FA) decode paralel klaster untuk meningkatkan kinerja pada perangkat keras yang kompatibel.

  • Binari macOS Apple Silicon dan Intel tersedia.
  • XCFramework iOS disertakan dalam rilis.
  • Build Linux mencakup varian CPU, Vulkan, ROCm 7.2, OpenVINO, dan SYCL untuk arsitektur x64, arm64, dan s390x.
  • Dukungan Windows mencakup binari CPU, Vulkan, HIP, OpenVINO, SYCL, dan CUDA 12/13.
  • Build CPU arm64 Android disediakan.
  • Dukungan KleidiAI di macOS Apple Silicon dinonaktifkan pada versi ini.