Proyek llama.cpp merilis versi b9890, yang mencakup refaktor backend yang signifikan dan perbaikan bug.
Pembaruan ini menghapus baris -sm untuk CUDA dan melakukan refaktor integrasi cuBLAS untuk meningkatkan stabilitas.
- Memperbaiki kesalahan logika CDNA + BF16
- Memperbaiki nilai balik yang salah dalam operasi
- Menyelesaikan masalah dengan stride src0 dan persyaratan memori kontigu
- Memperbaiki konfigurasi GGML_CUDA_FORCE_CUBLAS
- Memperbaiki cast ke format BF16
Rilis ini menyediakan biner yang diperbarui untuk macOS, Linux, Windows, Android, dan openEuler di seluruh CPU, GPU, dan berbagai backend akselerator.