Os autores introduzem o red-teaming institucional, uma metodologia de avaliação que isola o impacto causal das regras de implantação no comportamento coletivo em sistemas de IA multiagente. Usando o benchmark IABench-CA, que abrange 228 contextos e sete populações de modelos em 33.924 jogos, o estudo demonstra que alterar apenas uma regra altera significativamente os resultados de segurança.
- Alterar as regras de consequência desloca a média de fatalidades em 22 a 58 pontos percentuais dentro de cada população testada.
- O direcionamento regressivo por identidade nunca é decisivamente o mais seguro e elimina o agente menos dotado de recursos em 30-87% dos jogos em todas as populações.
- A saliência da identidade impulsiona a eliminação direcionada, nomear o portador da perda aumenta o direcionamento de 22% para 81% com pagamentos idênticos.
- O anonimato apenas atrasa o direcionamento sob jogo repetido à medida que os agentes reinferem regras ocultas a partir de eliminações observadas.
A metodologia é empacotada como um fluxo de trabalho de safety-case que certifica uma região provisória de regras por contexto de implantação e população, fornecendo riscos residuais explícitos e obrigações de monitoramento.