本文研究了允许自利智能体在社会困境中尽管有背叛倾向仍能维持市场稳定的正式机制。通过使用包含18个DeepSeek-V3智能体的多智能体市场模拟,该研究确定调解(Mediation)是在受限社会网络中维持贸易的最有效机制。

  • 研究在200轮中逐步注入水军的情况下比较了八种条件,确定调解是表现最佳的机制。
  • 使用迭代提示优化的大语言模型驱动的水军进行的对抗性红队测试发现,最佳攻击(v6)使诚实智能体的效用降低了13.3%,但无法导致市场崩溃。
  • 即使在持续的对抗压力下,调解也能实现恢复,证明了其鲁棒性,即在优化攻击下维持诚实智能体正效用的能力。

作者得出结论,调解之所以具有鲁棒性,是因为它可以弯曲而不会折断,为维持自利智能体社会的稳定性提供了一个可行的框架。