Los investigadores proponen Agora, un marco que emplea un mecanismo de subasta compatible con incentivos para asignar dinámicamente tareas a modelos expertos y herramientas para agentes de modelos de lenguaje grande.

  • Agora trata los pasos de razonamiento como artículos negociables, permitiendo que los agentes pujen basándose en la competencia corregida en lugar de la sobreconfianza.
  • El sistema enruta la lógica crítica al solucionador más capaz considerando la variabilidad del rendimiento y la eficiencia de costos entre alternativas funcionalmente similares.
  • Las evaluaciones en cinco benchmarks demuestran que Agora supera a las líneas base de modelo único, enrutamiento y cascada emparejadas bajo pools de candidatos comparables.
  • El marco expone un compromiso controlable entre costo y calidad a través de un único parámetro de subasta.

Este enfoque aborda las limitaciones de los marcos existentes que dependen de una coincidencia de granularidad gruesa, ofreciendo capacidades de razonamiento y eficiencia mejoradas para agentes LLM.