Google CEO Demis Hassabis 发表了一篇题为《前沿 AI 框架与新纪元的曙光》的文章,他在文中将人类描述为站在奇点山麓的存在。他呼吁建立一个类似于 FINRA 的美国政府标准机构,以监管前沿实验室并评估模型安全性。
- 该提议的机构将基于技术基准来定义“前沿实验室”,并要求在发布前后定期进行漏洞更新。
- Hassabis 将 AGI 描述为可能以十倍的速度产生比工业革命大十倍的影响,能够解决重大的社会问题。
- 该框架包括在风险被认为足够严重时,协调前沿实验室放缓开发的条款。
批评者认为,尽管该提议优于无所作为,但它仍然不足,因为它缺乏具有约束力的执行机制,并且未能解决内部部署带来的风险。