一封由1,224名前沿AI公司员工签署的公开信,其中包括OpenAI和Anthropic的关键人物,请求美国政府支持一项国际努力,开发能够有意调控自动化AI发展前沿的技术和治理工具。
签署者认为,虽然AI可能创造更美好的未来,但存在能力发展加速超出人类理解或控制结果系统能力的真实风险。该信将其请求与立即暂停区分开来,转而侧重于为未来的协调准备机制,从而为安全措施和监督争取时间。
OpenAI和Anthropic均已正式支持该信,Anthropic引用了关于递归自我改进的最新研究作为需要此类工具的证据。该倡议旨在为公司和政府之间的合作奠定基础,以防自动化AI研究可能失控加速。