llama.cpp b9994 añade soporte para Q2_0 y libera binarios

El proyecto llama.cpp ha lanzado la versión b9994, que introduce soporte de cuantización Q2_0 a través del pull request #25419. Esta actualización proporciona binarios precompilados para macOS, Linux, Windows, Android y openEuler en varios backends de hardware.

• Añadido soporte Q2_0 al backend metal.
• Desactivado el soporte KleidiAI para compilaciones de Apple Silicon en macOS/iOS.
• Proporcionados binarios para CPU, Vulkan, CUDA (12.4 y 13.3), ROCm, OpenVINO, SYCL, HIP y OpenCL Adreno.
• Incluidos los paquetes iOS XCFramework y UI en el lanzamiento.