El CEO de OpenAI, Sam Altman, se dirigió al Consejo de Seguridad de las Naciones Unidas, exponiendo la postura de OpenAI sobre la seguridad de la inteligencia artificial y la necesidad de marcos de gobernanza global. Enfatizó que la IA debe permanecer bajo control humano para evitar la concentración de poder y garantizar la supervisión democrática.
- Altman advirtió contra la "mejora recursiva" y los sistemas autónomos descontrolados, afirmando que ningún nivel de riesgo es aceptable si no se puede garantizar el control humano.
- OpenAI aboga por estándares complementarios nacionales e internacionales de IA de frontera para medir capacidades, evaluar riesgos y verificar el cumplimiento.
- La empresa pide protocolos precisos de notificación de incidentes y canales seguros entre gobiernos para compartir vulnerabilidades emergentes.
- Altman destacó los recientes logros de modelos, incluyendo la resolución de las ecuaciones de Navier-Stokes, como ejemplos de la IA empoderando el descubrimiento humano en lugar de reemplazarlo.
Las declaraciones concluyen con un llamado a la cooperación internacional para dar forma al desarrollo de la IA a través de procesos democráticos, asegurando que la tecnología amplíe las oportunidades y la agencia individual.