研究者らは、大規模言語モデルエージェントに対して多様な専門家モデルやツール間でタスクを動的に割り当てるために、インセンティブ整合性のあるオークションメカニズムを採用するフレームワーク「Agora」を提案した。

  • Agoraは推論ステップを取引可能なアイテムとして扱い、過信ではなく補正された能力に基づいてエージェントが入札できるようにする。
  • このシステムは、粗いマッチングに依存し、パフォーマンスのばらつきやコスト効率を無視する既存のフレームワークの限界に対処する。
  • 5つのベンチマークでの評価により、Agoraが同等の候補プールにおいて、マッチされた単一モデル、ルーティング、カスケードのベースラインを上回ることを示した。
  • このフレームワークは、単一のオークションパラメータを通じて制御可能なコストと品質のトレードオフを提供する。

このアプローチにより、重要なロジックを最も能力の高いソルバにルーティングし、全体としての推論能力を向上させながらコストを管理することが可能になる。