Dario Amodei publicou um ensaio intitulado "Devemos Ritmar a Fronteira", argumentando que a taxa de melhoria das capacidades da IA deve ser desacelerada para permitir o trabalho necessário de alinhamento e segurança. Ele propõe três medidas, comprometendo-se unilateralmente com a primeira: a adoção de avaliadores integrados de terceiros.
- A Anthropic se comprometeu a conceder acesso contínuo, semelhante ao dos funcionários, a uma equipe de avaliadores independentes (como o METR) para verificar práticas de segurança e avaliar o alinhamento do modelo.
- O CEO da OpenAI, Sam Altman, apoiou a proposta geral e também se comprometeu a implementar avaliadores integrados.
- Elon Musk, Demis Hassabis e o CEO da Microsoft, Satya Nadella, apoiaram publicamente o chamado para ritmar o desenvolvimento da IA.
- O ensaio destaca que os modelos internos em laboratórios como Anthropic e OpenAI estão melhorando rapidamente devido às etapas iniciais de autoaperfeiçoamento recursivo.
Amodei alerta que, sem ritmo, o progresso da IA impulsionado pelo autoaperfeiçoamento recursivo poderia superar a capacidade humana de controlar esses sistemas, potencialmente levando a agentes de IA descontrolados assumindo a internet.