A Anthropic atualizou as salvaguardas biológicas do Claude Fable 5 para reduzir substancialmente os falsos positivos, resultando em uma diminuição de aproximadamente 85% nas quedas relacionadas à biologia em todas as suas superfícies de produto. Esta mudança permite que o modelo assista com uma gama mais ampla de consultas cotidianas de saúde e educação, enquanto ainda bloqueia a pesquisa profissional de uso duplo.
- A atualização reescreve a constituição do classificador de segurança para distinguir melhor entre usos benignos e conteúdo prejudicial de uso duplo, como virologia ou toxicologia.
- As quedas são reduzidas em aproximadamente 67% no Claude.ai, 55% no Cowork, 17% no Claude Code e 7% na Plataforma Claude.
- Profissionais de saúde receberão mais suporte em tarefas clínicas, embora a pesquisa biológica profissional e o desenvolvimento de medicamentos permaneçam bloqueados.
A empresa visa equilibrar os riscos catastróficos do desenvolvimento de armas biológicas com a necessidade de fornecer capacidades de IA de ponta a pesquisadores legítimos por meio de vias de acesso confiáveis.