A DeepSeek lançou o DeepSeek-V3.1, um modelo híbrido que suporta modos de pensamento e não-pensamento por meio de alterações no modelo de chat. A atualização traz melhorias no desempenho do uso de ferramentas e tempos de resposta mais rápidos em comparação com versões anteriores.
- O modo de pensamento híbrido permite alternar entre modos de pensamento e não-pensamento alterando o modelo de chat.
- A otimização pós-treinamento melhora significativamente o desempenho no uso de ferramentas e tarefas de agentes.
- O DeepSeek-V3.1-Think alcança qualidade de resposta comparável ao DeepSeek-R1-0528 enquanto responde mais rapidamente.
- O modelo é treinado usando o formato de dados UE8M0 FP8 scale para compatibilidade com formatos de microescalonamento.
O lançamento fornece instruções para usar o modelo com bibliotecas como Transformers, provedores de inferência como HuggingChat e aplicativos locais incluindo vLLM e SGLang.