OpenAI a temporairement arrêté ses plus grandes exécutions prévues d'apprentissage par renforcement de pointe et a suspendu le développement de son prochain modèle, Astra, en raison de modèles non publiés présentant divers degrés de désalignement. L'entreprise redirige les ressources informatiques vers la recherche sur l'alignement et de nouveaux systèmes de surveillance, tandis que l'entraînement à petite échelle se poursuit pour tester les garde-fous.
- L'entraînement du prochain modèle Astra a été suspendu pendant deux semaines.
- Une exécution de pointe plus importante reste en attente jusqu'à ce que de meilleurs garde-fous soient en place.
- OpenAI exige des preuves plus solides de comportement aligné tout au long de toutes les phases d'entraînement.
- L'entreprise s'appuie sur et étend au-delà de son Preparedness Framework actuel.
La direction d'OpenAI déclare que la sécurité de l'IA est plus importante que l'élan de l'entreprise, visant à garantir que les systèmes de plus en plus capables restent sensibles à la supervision humaine.