El proyecto llama.cpp ha lanzado la versión b9803, que incluye una corrección para OpenCL que vacía los lotes de perfilado al apagar el sistema para lotes incompletos. Esta actualización proporciona binarios para macOS, Linux, Windows, Android y openEuler a través de varios backends de hardware.

  • Las compilaciones para macOS Apple Silicon (arm64) e Intel (x64) están disponibles, con KleidiAI deshabilitado.
  • Linux soporta Ubuntu x64 y arm64 CPU, Vulkan, ROCm 7.2, OpenVINO y SYCL FP32/FP16.
  • Windows ofrece compilaciones para CPU, CUDA 12.4/13.3, Vulkan, OpenVINO, SYCL, HIP y OpenCL Adreno.
  • Se incluyen binarios Android arm64 (CPU) e iOS XCFramework.
  • openEuler soporta x86 y aarch64 con ACL Graph, mientras que la solicitud de extracción (pull request) estándar de openEuler está deshabilitada.

El lanzamiento garantiza compatibilidad en diversas configuraciones de hardware y corrige el manejo de datos de perfilado para los usuarios de OpenCL.