前 Anthropic 和 OpenAI 研究员 Jacob Coxon 以抗议方式辞职，警告称 AI 实验室正在竞相实现超级智能，同时拿人类的生存做赌注。他的离职在 OpenAI、Anthropic 和 Google DeepMind 等各大实验室的员工中引发了“偏好级联”效应，导致《华尔街日报》和 BBC 等主要主流媒体进行了广泛报道。

  • Coxon 表示，这两家公司都没有负责任地行事，它们正在竞相开发自我改进的超级智能。
  • 他认为，在未来十年内 AI 可能杀死全人类的概率超过 10%。
  • 其他研究人员，包括来自 Google DeepMind 的 Alex Turner，也已辞职或表达了类似的关于存在性风险的担忧。
  • 这一事件引起了主要新闻机构的广泛关注，凸显了 AI 行业内日益增长的内部焦虑。