Proyek llama.cpp merilis versi b9890, yang mencakup refaktor backend yang signifikan dan perbaikan bug.

Pembaruan ini menghapus baris -sm untuk CUDA dan melakukan refaktor integrasi cuBLAS untuk meningkatkan stabilitas.

  • Memperbaiki kesalahan logika CDNA + BF16
  • Memperbaiki nilai balik yang salah dalam operasi
  • Menyelesaikan masalah dengan stride src0 dan persyaratan memori kontigu
  • Memperbaiki konfigurasi GGML_CUDA_FORCE_CUBLAS
  • Memperbaiki cast ke format BF16

Rilis ini menyediakan biner yang diperbarui untuk macOS, Linux, Windows, Android, dan openEuler di seluruh CPU, GPU, dan berbagai backend akselerator.