OpenAI首席执行官山姆·奥特曼向联合国安理会发表讲话，阐述了OpenAI在人工智能安全方面的立场以及建立全球治理框架的必要性。他强调，人工智能必须保持在人类控制之下，以防止权力集中并确保民主监督。

  • 奥特曼警告称“递归自我改进”和不受控制的自主系统存在风险，并表示如果无法保证人类控制，任何风险水平都是不可接受的。
  • OpenAI主张制定互补的国家与国际前沿人工智能标准，以衡量能力、评估风险并验证合规性。
  • 该公司呼吁建立准确的事件报告协议以及政府间的安全渠道，以共享新出现的漏洞。
  • 奥特曼强调了最近的模型成就，包括求解纳维-斯托克斯方程，以此作为人工智能赋能人类发现而非取代它的例证。

讲话最后呼吁通过民主进程开展国际合作，以塑造人工智能的发展，确保该技术扩展机会与个人能动性。