El proyecto llama.cpp lanzó la versión b9890, que incluye una refactorización significativa del backend y correcciones de errores. La actualización elimina el -sm para CUDA y refactoriza la integración de cuBLAS para mejorar la estabilidad.

  • Corrige errores de lógica en CDNA + BF16
  • Corrige valores de retorno incorrectos en las operaciones
  • Resuelve problemas con los pasos de src0 y los requisitos de memoria contigua
  • Corrige la configuración GGML_CUDA_FORCE_CUBLAS
  • Corrige las conversiones al formato BF16

Esta versión proporciona binarios actualizados para macOS, Linux, Windows, Android y openEuler en CPU, GPU y varios backends de aceleradores.