OpenAI выпустила семейство моделей o1 в период с сентября по декабрь 2024 года, представив новую парадигму, в которой модели генерируют скрытые шаги рассуждения во время вывода для решения сложных задач в математике, науке и программной инженерии.
- o1-preview и o1-mini были запущены 12 сентября 2024 года, используя обучение с подкреплением с моделями вознаграждения, контролирующими процесс, чтобы обеспечить размышление, а не немедленное сопоставление паттернов.
- Полная версия модели o1 вышла 5 декабря 2024 года, добавив поддержку входных данных зрения, вызов функций и контекстное окно на 200K токенов, что привело к снижению основных ошибок в сложных задачах рассуждения на 34% по сравнению с o1-preview.
- o1-pro, доступный через подписку ChatGPT Pro и позднее через API, расширяет бюджет вычислений, увеличивая долю успешных прохождений AIME примерно с 74% до 86%.
Эти выпуски закрепили то, что отрасль называет «эрой рассуждений», продемонстрировав, что масштабирование вычислений во время вывода открывает возможности, выходящие за рамки только предварительного обучения.