연구자들은 대규모 언어 모델 에이전트를 위해 다양한 전문가 모델과 도구 간에 작업을 동적으로 할당하기 위해 인센티브 호환 경매 메커니즘을 사용하는 프레임워크 Agora를 제안했습니다.
- Agora는 추론 단계를 거래 가능한 항목으로 취급하여 에이전트가 과신 대신 보정된 능력에 따라 입찰할 수 있도록 합니다.
- 이 시스템은 성능 변동성과 비용 효율성을 무시하는 coarse-grained 매칭에 의존하는 기존 프레임워크의 한계를 해결합니다.
- 5개의 벤치마크에 대한 평가는 Agora가 비교 가능한 후보 풀에서 일치된 단일 모델, 라우팅, 캐스케이드 기반 대비 더 우수한 성능을 보임을 입증했습니다.
- 이 프레임워크는 단일 경매 매개변수를 통해 제어 가능한 비용-품질 트레이드오프를 노출합니다.
이 접근 방식은 중요한 로직을 가장 능력 있는 솔버로 라우팅하여 전반적인 추론 능력을 향상시키면서 비용을 관리할 수 있게 합니다.