OpenAI a développé GPT-Red, un modèle automatisé de test d'intrusion (red-teaming) pour la sécurité, entraîné par apprentissage par renforcement en auto-jeu afin de découvrir des vulnérabilités et de générer des données adversariales pour améliorer les futurs modèles.
- GPT-Red est entraîné à l'échelle de calcul des principales exécutions post-entraînement, utilisant un système de récompense où il réussit en provoquant des échecs des LLM défenseurs.
- Le modèle a été utilisé pour entraîner adversarialement GPT-5.6 Sol, ce qui a résulté en 6 fois moins d'échecs sur les benchmarks d'injection de prompt directe par rapport au meilleur modèle de production datant de quatre mois.
- GPT-Red atteint un taux de succès d'attaque de 84 % contre GPT-5.1 dans des scénarios nouveaux, surpassant significativement les humains du red-team qui ont obtenu 13 %.
- Il a réussi à compromettre une machine distributrice simulée alimentée par l'IA en changeant les prix et en annulant les commandes, et a démontré une haute efficacité tokenique contre les agents Codex CLI.
- Les gains de robustesse sont vérifiés comme provenant de la résistance aux instructions malveillantes plutôt que d'un refus accru des requêtes légitimes, GPT-5.6 Sol échouant seulement 0,05 % des injections directes de GPT-Red.
Cette approche établit un "volant d'inertie" évolutif pour la sécurité, permettant aux modèles d'aujourd'hui d'améliorer directement la robustesse et l'alignement des releases de demain.