DeepSeek представляет свои модели рассуждений первого поколения, DeepSeek-R1-Zero и DeepSeek-R1, которые демонстрируют производительность, сопоставимую с OpenAI-o1-1217 на задачах рассуждения. DeepSeek-R1-Zero обучается с помощью крупномасштабного обучения с подкреплением без контролируемой тонкой настройки, тогда как DeepSeek-R1 использует многоэтапный конвейер с данными холодного старта для улучшения читаемости.

  • DeepSeek-R1-Zero естественным образом развивает поведение рассуждения, такое как самопроверка и генерация длинных цепочек мыслей, через чистое RL.
  • DeepSeek-R1 достигает 79.8% Pass@1 на AIME 2024, превосходя OpenAI-o1-1217, и набирает 97.3% на MATH-500.
  • Команда открыла исходный код шести плотных моделей (от 1.5B до 70B), дистиллированных из DeepSeek-R1 на основе архитектур Qwen и Llama.
  • Дистиллированные модели, такие как DeepSeek-R1-Distill-Qwen-32B, устанавливают новые рекорды среди плотных моделей, превосходя предыдущих конкурентов с открытым исходным кодом.

Выпуск предоставляет исследовательскому сообществу контрольные точки с открытым исходным кодом и API для содействия дальнейшему развитию более компактных и мощных моделей рассуждения.