研究人员提出了AgentRouter，这是一种轻量级分类器，通过将单个轨迹步骤路由到合适的模型层级，而非为每个任务都使用前沿模型，从而优化多步智能体工作流。该系统解决了现有解决方案的不足，后者忽略了单个智能体会话内不同子任务的复杂性差异。

  • AgentRouter使用一个12M参数的模型，在A100 GPU上每个步骤的开销不到5ms，基于五个特征将步骤映射到四个层级。
  • 该模型在规划、编码、研究和数据分析任务中的50,000个标注步骤上进行训练，实现了72%的成本降低，同时保留了前沿模型97.3%的质量。
  • 在最小复杂度步骤上的路由准确率达到91%，在高效层级步骤上达到85%，优于RouteLLM和FrugalGPT（后者分别仅实现31%和44%的成本降低）。

这种方法通过认识到轨迹中的不同步骤需要不同水平的模型能力，显著降低了企业智能体系统的推理成本。