DeepSeek 发布了 DeepSeek-V3.1,这是一个混合模型,通过更改聊天模板支持思维和非思维模式。与之前的版本相比,此次更新在工具使用性能方面有所提升,并且响应速度更快。
- 混合思维模式允许通过更改聊天模板在思维和非思维模式之间切换。
- 训练后优化显著提高了工具使用和代理任务的性能。
- DeepSeek-V3.1-Think 在回答质量上与 DeepSeek-R1-0528 相当,但响应速度更快。
- 该模型使用 UE8M0 FP8 scale 数据格式进行训练,以兼容微缩放格式。
此次发布提供了使用 Transformers 等库、HuggingChat 等推理提供商以及 vLLM 和 SGLang 等本地应用程序的说明。