Anthropic은 Claude Fable 5의 생물학적 안전 장치를 업데이트하여 거짓 양성을 크게 줄였고, 그 결과 모든 제품 표면에서 생물학 관련 폴백이 약 85% 감소했습니다. 이 변경으로 모델은 이중 용도 전문 연구를 계속 차단하면서도 더 넓은 범위의 일상 건강 및 교육 쿼리를 지원할 수 있게 되었습니다.
- 업데이트는 안전 분류기의 헌법을 다시 작성하여 양성 사용과 바이러스학 또는 독성학과 같은 해로운 이중 용도 콘텐츠 간의 구분을 개선했습니다.
- Claude.ai에서 폴백이 약 67% 감소했고, Cowork에서는 55%, Claude Code에서는 17%, Claude Platform에서는 7% 감소했습니다.
- 의료 전문가는 임상 작업에서 더 많은 지원을 받게 되지만, 전문 생물학 연구 및 약물 개발은 계속 차단됩니다.
회사는 생물학적 무기 개발의 재앙적 위험과 신뢰할 수 있는 접근 경로를 통해 정당한 연구자에게 최전방 AI 능력을 제공하는 필요성 사이의 균형을 맞추는 것을 목표로 하고 있습니다.