El proyecto llama.cpp lanzó la versión b9913, introduciendo la cuantización Q2_0 con una nueva definición de tipo y soporte para backend de CPU. Esta actualización está disponible en múltiples plataformas, incluyendo macOS, Linux, Windows, Android y openEuler.

  • Se añadió la definición del tipo de cuantización Q2_0 y la implementación correspondiente del backend de CPU.
  • Se deshabilitó el soporte de KleidiAI para las compilaciones de Apple Silicon en macOS.
  • Se proporcionaron binarios para varias arquitecturas y backends, incluyendo CUDA 12/13, Vulkan, ROCm, OpenVINO, SYCL e HIP.
  • Se lanzaron binarios de la interfaz de usuario junto con las actualizaciones del motor principal.