Le PDG d'OpenAI, Sam Altman, s'est adressé au Conseil de sécurité des Nations Unies, exposant la position d'OpenAI sur la sécurité de l'intelligence artificielle et la nécessité de cadres de gouvernance mondiale. Il a souligné que l'IA doit rester sous contrôle humain pour empêcher la concentration du pouvoir et garantir une surveillance démocratique.
- Altman a mis en garde contre l'« amélioration récursive » et les systèmes autonomes incontrôlés, affirmant qu'aucun niveau de risque n'est acceptable si le contrôle humain ne peut être garanti.
- OpenAI plaide pour des normes frontalières nationales et internationales complémentaires sur l'IA de pointe afin de mesurer les capacités, évaluer les risques et vérifier la conformité.
- L'entreprise appelle à des protocoles précis de signalement d'incidents et à des canaux sécurisés entre les gouvernements pour partager les vulnérabilités émergentes.
- Altman a mis en lumière les récentes avancées des modèles, y compris la résolution des équations de Navier-Stokes, comme exemples d'une IA qui renforce la découverte humaine plutôt que de la remplacer.
Les remarques se concluent par un appel à la coopération internationale pour façonner le développement de l'IA par des processus démocratiques, garantissant que la technologie élargisse les opportunités et l'agence individuelle.