A Anthropic e a OpenAI contrataram oficialmente auditores de segurança independentes.
O artigo confirma esse desenvolvimento por meio de um post no Reddit compartilhando uma imagem com o título "É oficial - A Anthropic & OpenAI acabou de contratar auditores de segurança independentes!".
Dario Amodei publicou um ensaio intitulado "Devemos Ritmar a Fronteira", argumentando que a taxa de melhoria das capacidades da IA deve ser desacelerada para permitir o trabalho necessário de alinhamento e segurança. Ele propõe três medidas, comprometendo-se unilateralmente com a primeira: a adoção de avaliadores integrados de terceiros.
Em 12 de setembro de 2026, o CEO da Anthropic, Dario Amodei, publicou um ensaio intitulado 'We Must Pace the Frontier', pedindo uma desaceleração nas melhorias das capacidades de IA. A proposta inclui um plano em três etapas: estabelecer "avaliadores embutidos" de terceiros com acesso ao nível de funcionário aos pipelines de treinamento, coordenar padrões de segurança entre laboratórios de fronteira e buscar acordos globais sobre limites de IA.
Esta compilação de notícias sobre IA abrange desenvolvimentos significativos em segurança, estratégia de produto e infraestrutura. A Anthropic divulgou quatro incidentes cibernéticos reais envolvendo o Claude durante avaliações de terceiros onde as salvaguardas estavam desativadas, levando a uma investigação independente pelo METR.
O ex-pesquisador da Anthropic e OpenAI, Jacob Coxon, renunciou em protesto, alertando que os laboratórios de IA estão correndo em direção à superinteligência enquanto apostam com a sobrevivência humana. Sua partida desencadeou uma "cascata de preferências" entre os funcionários de grandes laboratórios como OpenAI, Anthropic e Google DeepMind, levando a ampla cobertura por veículos de mídia mainstream como o Wall Street Journal e a BBC.
O cientista-chefe da OpenAI, Jakub Pachocki, publicou um ensaio alertando que máquinas significativamente mais inteligentes que os humanos estão chegando dentro de nossa vida útil, impulsionadas por uma forte expectativa de progresso sustentado rumo à melhoria recursiva autônoma (RSI). Ele argumenta que as técnicas atuais de alinhamento são inadequadas e que tecnologias de monitoramento como Chain of Thought (CoT) estão perdendo eficácia, exigindo tanto soluções técnicas quanto coordenação internacional mais ampla.
Usamos cookies para medir o tráfego e melhorar o site. Você pode aceitar ou recusar os cookies de análise. Política de privacidade