연구자들은 대규모 언어 모델 에이전트에 대해 전문가 모델과 도구에 작업을 동적으로 할당하기 위해 인센티브 호환 경매 메커니즘을 사용하는 프레임워크 Agora를 제안했습니다.
- Agora는 추론 단계를 거래 가능한 항목으로 취급하여 에이전트가 과신 대신 보정된 능력에 따라 입찰할 수 있도록 합니다.
- 시스템은 기능적으로 유사한 대안 간 성능 변동성과 비용 효율성을 고려하여 가장 능숙한 솔버로 중요한 로직을 라우팅합니다.
- 5개의 벤치마크에 대한 평가는 Agora가 동일한 후보 풀에서 매칭된 단일 모델, 라우팅 및 캐스케이드 베이스라인보다 우수함을 보여줍니다.
- 이 프레임워크는 단일 경매 매개변수를 통해 제어 가능한 비용-품질 트레이드오프를 노출합니다.
이 접근 방식은 거시적 매칭에 의존하는 기존 프레임워크의 한계를 해결하여 LLM 에이전트의 추론 능력과 효율성을 향상시킵니다.