O projeto llama.cpp lançou a versão b9890, que inclui uma refactorização significativa do backend e correções de bugs. A atualização remove o -sm para CUDA e refatora a integração do cuBLAS para melhorar a estabilidade.

  • Corrige erros de lógica no CDNA + BF16
  • Corrige valores de retorno incorretos nas operações
  • Resolve problemas com strides de src0 e requisitos de memória contígua
  • Corrige a configuração GGML_CUDA_FORCE_CUBLAS
  • Corrige conversões para o formato BF16

Este lançamento fornece binários atualizados para macOS, Linux, Windows, Android e openEuler em CPU, GPU e vários backends de aceleradores.