Pesquisadores propõem o Agora, um framework que emprega um mecanismo de leilão compatível com incentivos para alocar dinamicamente tarefas a modelos especialistas e ferramentas para agentes de modelos de linguagem grande.
- O Agora trata etapas de raciocínio como itens negociáveis, permitindo que agentes façam lances com base na competência corrigida em vez de excesso de confiança.
- O sistema roteia a lógica crítica para o solucionador mais capaz, considerando a variabilidade de desempenho e eficiência de custo entre alternativas funcionalmente semelhantes.
- Avaliações em cinco benchmarks demonstram que o Agora supera as linhas de base de modelo único, roteamento e cascata correspondentes sob pools de candidatos comparáveis.
- O framework expõe uma compensação controlável entre custo e qualidade por meio de um único parâmetro de leilão.
Essa abordagem aborda as limitações dos frameworks existentes que dependem de correspondência de granularidade grosseira, oferecendo capacidades de raciocínio e eficiência aprimoradas para agentes LLM.