OpenAIやAnthropicの主要人物を含む、フロンティアAI企業の1,224人の従業員によって署名された公開書簡は、自動化されたAI開発のフロンティアを意図的に制御できる技術的およびガバナンスツールを開発するための国際的な取り組みを米国政府が支援するよう求めています。

署名者たちは、AIがより良い未来をもたらす可能性はあるものの、能力の開発が人間が結果として生じるシステムを理解したり制御したりする能力を超えて加速するという現実的なリスクがあると主張しています。この書簡は、即時の一時停止とは区別し、セキュリティ対策や監視のための時間を確保するために、将来の調整のためのメカニズムを整備することに焦点を当てています。

OpenAIとAnthropicの両社が公式にこの書簡を支持しており、Anthropicは再帰的自己改善に関する最近の研究をこれらのツールの必要性の証拠として挙げています。このイニシアチブは、自動化されたAI研究が制御不能に加速する前に、企業と政府間の協力のための基盤を確立することを目指しています。