llama.cpp 项目发布了版本 b9890,其中包括重大的后端重构和错误修复。更新移除了 CUDA 的 -sm 行,并重构了 cuBLAS 集成以提高稳定性。
- 修复了 CDNA + BF16 逻辑错误
- 修正了操作中的错误返回值
- 解决了 src0 步长和连续内存要求的问题
- 修复了 GGML_CUDA_FORCE_CUBLAS 配置
- 修正了转换为 BF16 格式的问题
此版本为 macOS、Linux、Windows、Android 和 openEuler 提供了更新的二进制文件,适用于 CPU、GPU 和各种加速器后端。