본 논문은 사회적 딜레마에서의 배신 경향에도 불구하고 이기적인 에이전트가 시장 안정성을 유지할 수 있도록 하는 형식적 메커니즘을 조사합니다. 18개의 DeepSeek-V3 에이전트를 사용한 다중 에이전트 마켓플레이스 시뮬레이션을 통해 본 연구는 제한된 소셜 네트워크 내에서 거래를 지속하기 위한 가장 효과적인 메커니즘으로 Mediation을 식별했습니다.
- 200 라운드에 걸친 점진적인 트롤 주입 하에서 8가지 조건을 비교하여 Mediation이 최상위 성능을 가진 메커니임임을 식별했습니다.
- 반복적으로 프롬프트 최적화된 LLM 기반 트롤을 사용한 적대적 레드팀링 결과, 최상의 공격(v6)은 정직한 에이전트의 효용을 13.3% 감소시키지만 시장을 붕괴시키지는 못한다는 것을 발견했습니다.
- Mediation은 지속적인 적대적 압력 하에서도 회복을 가능하게 하며, 최적화된 공격 하에서 긍정적인 정직한 에이전트 효용을 유지할 수 있는 능력으로 정의되는 견고성을 입증합니다.
저자들은 Mediation이 구부러질 수는 있지만 파괴될 수는 없기 때문에 견고하며, 이기적인 에이전트의 사회에서 안정성을 유지하기 위한 실행 가능한 프레임워크를 제공한다고 결론지었습니다.