Proyek llama.cpp merilis versi b9952, yang memodifikasi penanganan mask kunci-kuery untuk model DeepSeek V4. Pembaruan ini memastikan semua mask KQ diatur ke f16 saat Flash Attention digunakan, sambil juga menghapus bias perhatian nol.

  • Menghapus kode mati yang sebelumnya mengulang cache raw_k terpadu untuk setiap aliran di DeepSeek V4.
  • Menyediakan biner untuk macOS (Apple Silicon dan Intel), iOS, Linux, Android, Windows, dan openEuler di seluruh backend CPU, GPU, dan perangkat keras khusus.