O CEO da OpenAI, Sam Altman, dirigiu-se ao Conselho de Segurança das Nações Unidas, delineando a posição da OpenAI sobre a segurança da inteligência artificial e a necessidade de estruturas globais de governança. Ele enfatizou que a IA deve permanecer sob controle humano para evitar a concentração de poder e garantir supervisão democrática.
- Altman alertou contra a "autoaperfeiçoamento recursivo" e sistemas autônomos descontrolados, afirmando que nenhum nível de risco é aceitável se o controle humano não puder ser garantido.
- A OpenAI defende padrões complementares nacionais e internacionais de IA de fronteira para medir capacidades, avaliar riscos e verificar conformidade.
- A empresa solicita protocolos precisos de notificação de incidentes e canais seguros entre governos para compartilhar vulnerabilidades emergentes.
- Altman destacou conquistas recentes de modelos, incluindo a resolução das equações de Navier-Stokes, como exemplos de IA capacitando a descoberta humana em vez de substituí-la.
As observações concluem com um apelo à cooperação internacional para moldar o desenvolvimento da IA por meio de processos democráticos, garantindo que a tecnologia expanda oportunidades e a agência individual.