Une lettre ouverte signée par 1 224 employés d'entreprises d'IA de pointe, dont des figures clés d'OpenAI et d'Anthropic, demande au gouvernement américain de soutenir un effort international pour développer des outils techniques et de gouvernance capables de réguler délibérément le rythme du développement automatisé de l'IA.
Les signataires soutiennent que, bien que l'IA puisse créer un avenir meilleur, il existe un risque réel que le développement des capacités s'accélère au-delà de la capacité humaine à comprendre ou à contrôler les systèmes résultants. La lettre distingue sa demande des pauses immédiates, en se concentrant plutôt sur la préparation de mécanismes pour une coordination future afin de gagner du temps pour les mesures de sécurité et de surveillance.
Tant OpenAI qu'Anthropic ont officiellement soutenu la lettre, Anthropic citant des recherches récentes sur l'amélioration récursive de soi comme preuve de la nécessité de tels outils. L'initiative vise à établir des bases pour la coopération entre les entreprises et les gouvernements avant que la recherche automatisée sur l'IA ne s'accélère potentiellement de manière incontrôlable.