Sebuah surat terbuka yang ditandatangani oleh 1.224 karyawan perusahaan AI terdepan, termasuk tokoh-tokoh kunci dari OpenAI dan Anthropic, meminta pemerintah AS untuk mendukung upaya internasional dalam mengembangkan alat teknis dan tata kelola yang mampu secara sengaja mengatur laju pengembangan AI otomatis.
Para penandatangan berargumen bahwa meskipun AI dapat menciptakan masa depan yang lebih baik, ada risiko nyata bahwa pengembangan kemampuan akan mempercepat di luar kemampuan manusia untuk memahami atau mengendalikan sistem yang dihasilkan. Surat tersebut membedakan permintaannya dari jeda segera, dengan fokus pada persiapan mekanisme untuk koordinasi di masa depan guna membeli waktu bagi langkah-langkah keamanan dan pengawasan.
Baik OpenAI maupun Anthropic telah secara resmi mendukung surat tersebut, dengan Anthropic mengutip penelitian terbaru tentang perbaikan diri rekursif sebagai bukti perlunya alat semacam itu. Inisiatif ini bertujuan untuk menetapkan dasar kerja sama antara perusahaan dan pemerintah sebelum penelitian AI otomatis berpotensi mempercepat secara tidak terkendali.