Исследователи предлагают Agora, фреймворк, который использует механизм аукциона, совместимый с стимулами, для динамического распределения задач среди разнообразных экспертных моделей и инструментов для агентов на основе больших языковых моделей.
- Agora рассматривает шаги рассуждения как торгуемые объекты, позволяя агентам делать ставки на основе скорректированной компетентности, а не чрезмерной уверенности.
- Система решает ограничения существующих фреймворков, которые полагаются на грубое сопоставление, игнорируя вариативность производительности и эффективность по затратам.
- Оценка по пяти бенчмаркам демонстрирует, что Agora превосходит базовые варианты с одним моделью, маршрутизацией и каскадом при сравнимых пулах кандидатов.
- Фреймворк обеспечивает управляемый компромисс между стоимостью и качеством через один аукционный параметр.
Этот подход позволяет критической логике направляться к наиболее способному решателю, улучшая общие способности к рассуждению при управлении затратами.