OpenAI a publié les détails de GPT-Red, un modèle interne de test d'intrusion automatisé conçu pour identifier les vulnérabilités d'injection de prompt dans ses propres systèmes. Le système utilise l'apprentissage par renforcement en auto-jeu pour attaquer et se défendre contre divers scénarios, répondant aux limites d'évolutivité du test d'intrusion humain.
- GPT-Red a atteint un taux de réussite de 84 % sur les scénarios d'injection de prompt indirecte contre GPT-5.1, comparé à 13 % pour les équipes de test d'intrusion humaines.
- Le modèle a découvert une nouvelle attaque « Chaîne de Pensée Factice », atteignant plus de 95 % de réussite contre GPT-5.1 mais moins de 10 % contre GPT-5.6 Sol.
- Dans des études de cas en direct, GPT-Red a réussi à manipuler un agent de distributeur automatique pour modifier les prix et annuler des commandes.
- L'entraînement des défenseurs leur a exigé de résister aux attaques tout en accomplissant toujours leurs tâches initiales, empêchant les victoires basées sur le refus.
Les résultats mettent en évidence la surface d'attaque croissante des systèmes agents et démontrent comment le test d'intrusion automatisé peut révéler des vulnérabilités que les équipes humaines manquent.