Le projet llama.cpp a publié la version b9952, qui modifie la gestion des masques clé-requête pour les modèles DeepSeek V4. La mise à jour garantit que tous les masques KQ sont définis sur f16 lorsque Flash Attention est utilisé, tout en supprimant le biais d'attention nul.

  • Suppression du code mort qui répétait précédemment le cache raw_k unifié pour chaque flux dans DeepSeek V4.
  • Fourniture de binaires pour macOS (Apple Silicon et Intel), iOS, Linux, Android, Windows et openEuler sur les backends CPU, GPU et matériel spécialisé.