El proyecto llama.cpp lanzó la versión b9952, que modifica el manejo de las máscaras key-query para los modelos DeepSeek V4. La actualización asegura que todas las máscaras KQ se establezcan en f16 cuando se usa Flash Attention, mientras también elimina el sesgo de atención cero.

  • Se eliminó código muerto que previamente repetía la memoria caché raw_k unificada para cada flujo en DeepSeek V4.
  • Se proporcionaron binarios para macOS (Apple Silicon e Intel), iOS, Linux, Android, Windows y openEuler a través de CPU, GPU y backends de hardware especializado.