元AnthropicおよびOpenAIの研究員であるジェイコブ・クソンは抗議のために退職し、AIラボが人間の生存を賭けてスーパーインテリジェンスに向かって競争していると警告しました。彼の departure は OpenAI、Anthropic、Google DeepMind などの主要ラボの従業員間で「プレファレンスカスケード」を引き起こし、ウォールストリート・ジャーナルやBBCなどの主要メディアによって広範な報道されました。

  • クソンは、どちらの会社も責任ある行動を取っておらず、自己改善型のスーパーインテリジェンスに向かって競争していると述べた。
  • 彼は、今後10年以内にAIが人類を絶滅させる可能性が10%以上あると信じている。
  • Google DeepMindのアレックス・ターナーを含む他の研究者たちも退職するか、同様の存在リスクについて懸念を表明している。
  • この出来事は主要なニュース組織から大きな注目を集め、AI業界内の高まる内部の不安を浮き彫りにした。