作者引入了制度性红队测试,这是一种评估方法论,用于隔离部署规则对多智能体AI系统中集体行为的因果影响。通过使用涵盖33,924场游戏中228个上下文和七个模型群体的IABench-CA基准,该研究表明仅改变一条规则就会显著改变安全结果。

  • 改变后果规则会使每个测试群体中的平均死亡率移动22到58个百分点。
  • 基于身份的回归性目标定位永远不是最安全的,并且在所有群体的30-87%的游戏中消除了资源最少的智能体。
  • 身份显著性驱动针对性消除,在相同收益下命名损失承担者使目标定位从22%增加到81%。
  • 匿名化仅在重复游戏下延迟目标定位,因为智能体从观察到的消除中重新推断隐藏规则。

该方法论被打包为一个safety-case工作流,为每个部署上下文和群体认证一个临时规则区域,提供明确的残余风险和监控义务。