DeepSeek a publié DeepSeek-V4, une nouvelle famille de modèles ouverts conçue pour résoudre les goulots d'étranglement computationnels liés à l'exécution de modèles de pointe en tant qu'agents sur des contextes de plusieurs millions de tokens. L'architecture introduit l'Attention Creuse Compressée (CSA) et l'Attention Fortement Compressée (HCA) pour réduire drastiquement les FLOPs d'inférence par token unique et les exigences de mémoire du cache KV.
- V4-Pro nécessite 27 % des FLOPs d'inférence par token unique et utilise 10 % de la mémoire du cache KV par rapport à DeepSeek-V3.2, tandis que V4-Flash réduit ces chiffres à 10 % et 7 % respectivement.
- Le modèle préserve les traces de raisonnement à travers les limites des messages utilisateur lorsque des appels d'outils sont impliqués, permettant des flux de travail agents cohérents sur le long terme.
- Un nouveau schéma d'appel d'outils basé sur XML avec des tokens dédiés vise à réduire les échecs de parsing associés au contenu JSON imbriqué.
- Le comportement de l'agent a été entraîné à l'aide de DeepSeek Elastic Compute (DSec), une infrastructure sandbox basée sur Rust prenant en charge les rollouts RL concurrents sur divers substrats d'exécution.
- V4-Pro-Max a obtenu 80,6 sur SWE Verified et 67,9 sur Terminal Bench 2.0, le plaçant en concurrence avec des modèles propriétaires de premier plan tels que Opus 4.6-Max et GPT-5.4-xHigh.
La publication fournit quatre points de contrôle (deux instruct, deux base) pour DeepSeek-V4-Pro et V4-Flash, offrant à la communauté une alternative rentable pour les applications d'agents à contexte long.