El proyecto llama.cpp ha lanzado la compilación b9984, que incluye un cambio para añadir soporte de cuantización Q2_K a la ruta de reordenamiento DMMV mediante el pull request #25064.

  • macOS/iOS: Binarios proporcionados para Apple Silicon (arm64), Intel (x64) y iOS XCFramework; KleidiAI está deshabilitado en Apple Silicon.
  • Linux: Compilaciones disponibles para Ubuntu x64, arm64 y CPUs s390x, así como para los backends Vulkan, ROCm 7.2, OpenVINO y SYCL (FP32/FP16).
  • Android: Binario de CPU proporcionado para arm64.
  • Windows: Binarios lanzados para CPUs x64 y arm64, OpenCL Adreno, CUDA 12.4 y 13.3, Vulkan, OpenVINO, SYCL e HIP.
  • openEuler: Se incluye soporte para x86 (310p, 910b) y aarch64 (310p, 910b) con ACL Graph, mientras que el pull request principal está marcado como deshabilitado.

Esta versión proporciona binarios actualizados en los principales sistemas operativos y aceleradores de hardware, habilitando la cuantización Q2_K en la ruta de reordenamiento DMMV para las compilaciones SYCL compatibles.