Uma carta aberta assinada por 1.224 funcionários de empresas de IA de ponta, incluindo figuras-chave da OpenAI e Anthropic, solicita ao governo dos EUA que apoie um esforço internacional para desenvolver ferramentas técnicas e de governança capazes de regular deliberadamente o ritmo do desenvolvimento automatizado de IA.
Os signatários argumentam que, embora a IA possa criar um futuro melhor, há um risco real de que o desenvolvimento de capacidades se acelere além da capacidade humana de compreender ou controlar os sistemas resultantes. A carta distingue seu pedido de pausas imediatas, focando em preparar mecanismos para coordenação futura, ganhando tempo para medidas de segurança e supervisão.
Tanto a OpenAI quanto a Anthropic apoiaram oficialmente a carta, com a Anthropic citando pesquisas recentes sobre autoaperfeiçoamento recursivo como evidência da necessidade dessas ferramentas. A iniciativa visa estabelecer bases para cooperação entre empresas e governos antes que a pesquisa automatizada de IA potencialmente se acelere sem controle.