В данной статье исследуются формальные механизмы, позволяющие эгоистичным агентам поддерживать стабильность рынка, несмотря на склонность к нарушению сотрудничества в социальных дилеммах. Используя симуляцию многоагентного рынка с 18 агентами DeepSeek-V3, исследование выявило Посредничество (Mediation) как наиболее эффективный механизм для поддержания торговли в рамках ограниченной социальной сети.
- Исследование сравнивает восемь условий при прогрессивном внедрении троллей на протяжении 200 раундов, выявив Посредничество как механизм с наилучшими показателями.
- Враждебное тестирование на проникновение (red-teaming) с использованием итеративно оптимизированных по промптам троллей, управляемых LLM, показало, что лучшая атака (v6) снижает полезность честных агентов на 13.3%, но не может обрушить рынок.
- Посредничество позволяет восстанавливаться даже под постоянным враждебным давлением, демонстрируя устойчивость, определенную как способность поддерживать положительную полезность для честных агентов при оптимизированной атаке.
Авторы приходят к выводу, что Посредничество устойчиво, поскольку его можно согнуть, но не сломать, предоставляя жизнеспособную основу для поддержания стабильности в обществах эгоистичных агентов.