OpenAI a publié la famille de modèles o1 entre septembre et décembre 2024, introduisant un nouveau paradigme où les modèles génèrent des étapes de raisonnement cachées pendant l'inférence pour résoudre des problèmes complexes en mathématiques, sciences et ingénierie logicielle.
- o1-preview et o1-mini lancés le 12 septembre 2024, utilisant l'apprentissage par renforcement avec des modèles de récompense supervisés par processus pour permettre la délibération plutôt que la correspondance de motifs immédiate.
- Le modèle o1 complet publié le 5 décembre 2024 a ajouté l'entrée visuelle, l'appel de fonctions et une fenêtre de contexte de 200K tokens, atteignant une réduction de 34% des erreurs majeures sur les tâches de raisonnement difficiles par rapport à o1-preview.
- o1-pro, disponible via l'abonnement ChatGPT Pro et un accès API ultérieur, étend le budget de calcul pour augmenter les taux de réussite AIME d'environ 74% à 86%.
Ces publications ont établi ce que l'industrie appelle l'« ère du raisonnement » en démontrant que la mise à l'échelle du calcul au moment de l'inférence débloque des capacités au-delà de la seule pré-entraînement.