El proyecto llama.cpp ha lanzado la versión b9810, introduciendo un mapeo de CUDA para `cublasSgemmBatched` en los encabezados del proveedor HIP/MUSA. Esta actualización viene acompañada de un conjunto exhaustivo de binarios precompilados para las plataformas macOS, Linux, Windows, Android y openEuler.

  • Añadido mapeo de cublasSgemmBatched para encabezados del proveedor HIP/MUSA a través del pull request #25033.
  • Desactivado el soporte de KleidiAI para compilaciones de macOS Apple Silicon.
  • Proporcionados binarios para Ubuntu x64/arm64/s390x (CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL FP32/FP16).
  • Incluidas compilaciones de Windows para CPU, OpenCL Adreno, CUDA 12.4/13.3, Vulkan, OpenVINO, SYCL y HIP.
  • Lanzados XCFramework para iOS, Android arm64 (CPU) y binarios de macOS Apple Silicon/Intel.

El lanzamiento garantiza una amplia compatibilidad con el hardware al ofrecer compilaciones específicas para varios aceleradores como ROCm, SYCL y OpenVINO junto con las versiones estándar de CPU.