OpenAI는 2024년 9월부터 12월까지 o1 모델 패밀리를 출시하여 수학, 과학, 소프트웨어 엔지니어링의 복잡한 문제를 해결하기 위해 추론 중 숨겨진 추론 단계를 생성하는 새로운 패러다임을 도입했습니다.

  • o1-preview와 o1-mini는 2024년 9월 12일에 출시되었으며, 프로세스 감독 보상 모델을 사용한 강화 학습을 통해 즉각적인 패턴 매칭이 아닌 숙고를 가능하게 했습니다.
  • 2024년 12월 5일에 출시된 전체 o1 모델은 비전 입력, 함수 호출, 200K 토큰 컨텍스트 윈도우를 추가했으며, o1-preview 대비 어려운 추론 작업에서 주요 오류를 34% 줄였습니다.
  • ChatGPT Pro 구독 및 이후 API 접근이 가능한 o1-pro는 컴퓨팅 예산을 확장하여 AIME 통과율을 약 74%에서 86%로 높였습니다.

이러한 출시들은 추론 시 컴퓨팅을 스케일링하는 것이 사전 학습만으로는 불가능한 능력을 열어준다는 것을 입증함으로써 업계가 "추론의 시대"라고 부르는 것을 확립했습니다.