DeepSeek a publié DeepSeek-V3.1, un modèle hybride qui prend en charge à la fois les modes de réflexion et non-réflexion via des modifications du template de chat. Cette mise à jour apporte des améliorations des performances d'utilisation des outils et des temps de réponse plus rapides par rapport aux versions précédentes.
- Le mode de réflexion hybride permet de basculer entre les modes de réflexion et non-réflexion en modifiant le template de chat.
- L'optimisation post-entraînement améliore significativement les performances dans l'utilisation des outils et les tâches d'agent.
- DeepSeek-V3.1-Think atteint une qualité de réponse comparable à celle de DeepSeek-R1-0528 tout en répondant plus rapidement.
- Le modèle est entraîné avec le format de données UE8M0 FP8 scale pour la compatibilité avec les formats de micro-scaling.
La publication fournit des instructions pour utiliser le modèle avec des bibliothèques comme Transformers, des fournisseurs d'inférence tels que HuggingChat, et des applications locales incluant vLLM et SGLang.