Dario Amodei menerbitkan esai berjudul "We Must Pace the Frontier," yang berargumen bahwa laju peningkatan kemampuan AI harus diperlambat untuk memungkinkan pekerjaan penyesuaian dan keamanan yang diperlukan. Ia mengusulkan tiga langkah, dengan secara sepihak berkomitmen pada yang pertama: adopsi evaluator pihak ketiga yang terintegrasi.
- Anthropic telah berkomitmen untuk memberikan akses berkelanjutan, seperti karyawan, kepada tim evaluator independen (seperti METR) guna memverifikasi praktik keamanan dan menilai penyesuaian model.
- CEO OpenAI Sam Altman mendukung proposal secara keseluruhan dan juga berkomitmen untuk menerapkan evaluator terintegrasi.
- Elon Musk, Demis Hassabis, dan CEO Microsoft Satya Nadella telah secara publik mendukung seruan untuk memperlambat pengembangan AI.
- Esai tersebut menyoroti bahwa model internal di laboratorium seperti Anthropic dan OpenAI meningkat pesat karena tahap awal perbaikan diri rekursif.
Amodei memperingatkan bahwa tanpa perlambatan, kemajuan AI yang didorong oleh perbaikan diri rekursif dapat melampaui kemampuan manusia untuk mengendalikan sistem-sistem ini, berpotensi menyebabkan agen AI liar mengambil alih internet.