Les auteurs présentent le test rouge institutionnel, une méthodologie d'évaluation qui isole l'impact causal des règles de déploiement sur le comportement collectif dans les systèmes d'IA multi-agents. À l'aide du benchmark IABench-CA, qui couvre 228 contextes et sept populations de modèles sur 33 924 jeux, l'étude démontre que la modification d'une seule règle altère significativement les résultats en matière de sécurité.
- La modification des règles de conséquence déplace la mortalité moyenne de 22 à 58 points de pourcentage au sein de chaque population testée.
- Le ciblage régressif basé sur l'identité n'est jamais décisivement le plus sûr et élimine l'agent le moins bien doté en ressources dans 30 à 87 % des jeux, quelle que soit la population.
- La saillance de l'identité entraîne une élimination ciblée, le fait de nommer le porteur de la perte augmentant le ciblage de 22 % à 81 % pour des gains identiques.
- L'anonymisation ne retarde le ciblage que dans le cadre de jeux répétés, les agents inférant à nouveau les règles cachées à partir des éliminations observées.
La méthodologie est emballée sous forme de flux de travail de cas de sécurité qui certifie une région de règles provisoire par contexte de déploiement et population, fournissant des risques résiduels explicites et des obligations de surveillance.