Le projet llama.cpp a publié la version b9890, qui comprend un refactoring significatif du backend et des corrections de bugs.
La mise à jour supprime la ligne -sm pour CUDA et refactorise l'intégration de cuBLAS afin d'améliorer la stabilité.
- Corrige les erreurs de logique CDNA + BF16
- Corrige les mauvaises valeurs de retour dans les opérations
- Résout les problèmes liés aux strides src0 et aux exigences de mémoire contiguë
- Corrige la configuration GGML_CUDA_FORCE_CUBLAS
- Corrige les casts vers le format BF16
Cette version fournit des binaires mis à jour pour macOS, Linux, Windows, Android et openEuler sur CPU, GPU et divers backends d'accélérateur.