Исследователи предлагают Agora, фреймворк, который применяет механизм аукциона, совместимый с стимулами, для динамического распределения задач экспертным моделям и инструментам агентов больших языковых моделей.
- Agora рассматривает шаги рассуждения как торгуемые объекты, позволяя агентам делать ставки на основе скорректированной компетентности, а не чрезмерной уверенности.
- Система направляет критическую логику наиболее способному решателю, учитывая вариативность производительности и эффективность по затратам среди функционально схожих альтернатив.
- Оценки по пяти бенчмаркам показывают, что Agora превосходит сопоставимые базовые варианты с одной моделью, маршрутизацией и каскадом при сравнимых пулах кандидатов.
- Фреймворк обеспечивает управляемый компромисс между стоимостью и качеством через один параметр аукциона.
Этот подход решает ограничения существующих фреймворков, полагающихся на грубое сопоставление, предлагая улучшенные способности к рассуждению и эффективность для агентов LLM.