Para penulis memperkenalkan red-teaming institusional, sebuah metodologi evaluasi yang mengisolasi dampak kausal dari aturan deployment pada perilaku kolektif dalam sistem AI multi-agent. Menggunakan benchmark IABench-CA, yang mencakup 228 konteks dan tujuh populasi model di seluruh 33.924 permainan, studi ini menunjukkan bahwa mengubah hanya satu aturan secara signifikan mengubah hasil keamanan.

  • Mengubah aturan konsekuensi menggeser rata-rata fatalitas sebesar 22 hingga 58 poin persentase dalam setiap populasi yang diuji.
  • Penargetan identitas regresif tidak pernah paling aman secara pasti dan menghilangkan agen dengan sumber daya paling sedikit dalam 30-87% permainan di semua populasi.
  • Salience identitas mendorong eliminasi tertarget, dengan menyebut pembawa kerugian meningkatkan penargetan dari 22% menjadi 81% pada payoff yang identik.
  • Anonimitas hanya menunda penargetan selama permainan berulang karena agen menyimpulkan kembali aturan tersembunyi dari eliminasi yang diamati.

Metodologi ini dikemas sebagai alur kerja kasus keamanan yang mensertifikasi wilayah aturan provisional per konteks deployment dan populasi, memberikan risiko residu eksplisit dan kewajiban pemantauan.