OpenAI와 Anthropic의 주요 인물들을 포함한 프론티어 AI 기업들의 1,224명 직원이 서명한 공개 서한은 자동화된 AI 개발의 최전선을 의도적으로 조절할 수 있는 기술 및 거버넌스 도구를 개발하기 위한 국제적 노력을 미국 정부가 지원해 줄 것을 요청합니다.
서명자들은 AI가 더 나은 미래를 만들 수 있지만, 능력 개발이 인간이 결과 시스템을 이해하거나 통제하는 능력을 초과하여 가속화될 실제 위험이 있다고 주장합니다. 이 서한은 즉각적인 중지와는 구별되며, 보안 조치와 감독을 위한 시간을 확보하기 위해 향후 조정을 위한 메커니즘을 준비하는 데 초점을 맞춥니다.
OpenAI와 Anthropic 모두 공식적으로 이 서한을 지지했으며, Anthropic은 재귀적 자기 개선에 대한 최근 연구를 이러한 도구의 필요성에 대한 증거로 인용했습니다. 이 이니셔티브는 자동화된 AI 연구가 통제 불능 상태로 가속화되기 전에 기업과 정부 간 협력을 위한 기반을 마련하는 것을 목표로 합니다.