Anthropic은 최근 평가 결과 회사의 Preparedness Framework 하에서 중대한 사이버 보안 능력을 보유할 가능성이 있음을 보여준다고 하여 차기 모델 Astra와 관련된 내부 활동을 중단했습니다. 동사는 인간 개입 없이 강화된 실제 시스템에서 기능적인 제로데이 익스플로잇을 식별하고 개발할 수 있는 가능성을 배제할 수 없습니다.
- Astra는 내부 평가 및 전문가 평가를 기반으로 중대한 사이버 능력을 배제할 수 없는 임계값에 도달했습니다.
- Astra와 관련된 내부 활동은 강화된 보안 제어 요구사항을 충족할 때까지 중단됩니다.
- 더 엄격한 제어에는 격리된 테스트 환경, 제한된 네트워크 접근, 향상된 가중치 보호 및 위험한 작업에 대한 보편적 모니터링이 포함됩니다.
- 회사는 방어 장치의 견고성 테스트를 확대하고 정부 기관 및 AI 안전 조직과 협력할 예정입니다.
Anthropic은 고급 사이버 대응 모델이 공격자보다 먼저 취약점을 식별하는 데 방어자를 도와야 하며, 최전방 능력이 책임감 있게 배포되도록 하는 것을 목표로 한다고 밝혔습니다.