OpenAI于2024年9月至12月期间发布了o1模型家族，引入了一种新范式：模型在推理过程中生成隐藏的思维步骤，以解决数学、科学和软件工程中的复杂问题。

  • o1-preview和o1-mini于2024年9月12日推出，利用带有过程监督奖励模型的强化学习来实现深思熟虑而非即时的模式匹配。
  • 完整的o1模型于2024年12月5日发布，增加了视觉输入、函数调用和200K token上下文窗口，与o1-preview相比，在困难推理任务上的主要错误减少了34%。
  • o1-pro通过ChatGPT Pro订阅及随后的API访问提供，扩展了计算预算，将AIME通过率从约74%提高到86%。

这些发布确立了业界所称的“推理时代”，证明了扩展推理时的计算能力可以解锁超越仅靠预训练的能力。