DeepSeek 推出了其第一代推理模型 DeepSeek-R1-Zero 和 DeepSeek-R1,在推理任务上取得了与 OpenAI-o1-1217 相当的性能。DeepSeek-R1-Zero 通过大规模强化学习进行训练,无需监督微调;而 DeepSeek-R1 使用带有冷启动数据的多阶段流水线以提高可读性。
- DeepSeek-R1-Zero 通过纯强化学习自然发展出自我验证和长链思维生成等推理行为。
- DeepSeek-R1 在 AIME 2024 上取得 79.8% Pass@1 的成绩,超越 OpenAI-o1-1217,并在 MATH-500 上得分 97.3%。
- 团队开源了六个基于 Qwen 和 Llama 架构从 DeepSeek-R1 蒸馏而来的密集模型(1.5B 至 70B)。
- 像 DeepSeek-R1-Distill-Qwen-32B 这样的蒸馏模型在密集模型中创下新纪录,优于之前的开源竞争对手。
此次发布为研究社区提供了开源检查点和 API,以促进更小、更强大的推理模型的进一步开发。