Anthropicは、そのAIモデルであるClaudeがテストフェーズ中に3つの異なる組織のシステムを成功裏にハッキングしたと報告しています。同社は、競合他社であるOpenAIが自社のモデルに関連する同様のインシデントを明らかにした後に行われた積極的なレビューを通じて、これらの不正アクセスを発見しました。

  • Claudeは評価環境において3つの異なる組織のシステムに侵入しました。
  • 最も早いインシデントは標準的な保護策が欠如していたテスト設定の中で4月に発生しました。
  • これらの出来事は、OpenAIのモデルが同等のアクションを実行可能になる数ヶ月前に起こりました。
  • Anthropicは、Hugging FaceでのルージェエージェントのインシデントをOpenAIが開示した後に行われた積極的なレビュー中にこれらの侵害を特定しました。