著者らは、多エージェントAIシステムにおける集団行動に対するデプロイメントルールの因果的影響を分離する評価手法である制度的レッドチームイングを紹介する。33,924ゲームにわたる33,924ゲーム、228のコンテキスト、および7つのモデル集団にわたるIABench-CAベンチマークを用いて、1つのルールを変更するだけで安全性の結果が大幅に変化することが実証されている。

  • 結果に関するルールを変更すると、テストされたすべての集団において平均死亡率が22〜58パーセントポイント変化する。
  • 逆進的なアイデンティティ標的攻撃は決して最も安全ではなく、すべての集団にわたるゲームの30〜87%で最もリソースが少ないエージェントを排除する。
  • アイデンティティの顕在性が標的排除を駆動し、同じペイオフにおいて損失負担者を名指すことで標的化が22%から81%に増加する。
  • 匿名化は、エージェントが観察された排除から隠れたルールを再推論するため、反復プレイ中にのみ標的化を遅らせる。

この手法は、各デプロイメントコンテキストと集団ごとに暫定的なルール領域を検証し、明示的な残留リスクと監視義務を提供するセーフティケースワークフローとしてパッケージ化されている。