El proyecto llama.cpp lanzó la versión b9992, que incluye una refactorización de la configuración del kernel MMQ. Esta actualización aborda específicamente y corrige la configuración para la arquitectura Blackwell de NVIDIA mientras elimina código heredado.

  • Refactorización de la configuración del kernel MMQ para mejorar el soporte de CUDA.
  • Corrección de problemas de configuración de GPU Blackwell.
  • Eliminación de código heredado de la base de código.

Este lanzamiento proporciona binarios actualizados para macOS, Linux, Windows, Android y openEuler en varios backends de hardware que incluyen CPU, Vulkan, ROCm, OpenVINO, SYCL e HIP.