O projeto llama.cpp lançou a versão b9890, que inclui uma refactorização significativa do backend e correções de bugs. A atualização remove o -sm para CUDA e refatora a integração do cuBLAS para melhorar a estabilidade.
- Corrige erros de lógica no CDNA + BF16
- Corrige valores de retorno incorretos nas operações
- Resolve problemas com strides de src0 e requisitos de memória contígua
- Corrige a configuração GGML_CUDA_FORCE_CUBLAS
- Corrige conversões para o formato BF16
Este lançamento fornece binários atualizados para macOS, Linux, Windows, Android e openEuler em CPU, GPU e vários backends de aceleradores.