研究人员提出了 CurateEvo,这是一个失败驱动的动态演化框架,旨在通过迭代数据策展来改善大型语言模型代理的长视距决策。与将策展视为固定预处理步骤的传统方法不同,CurateEvo 将策略表示为可执行代码,并利用保留的开发集中的失败轨迹对其进行重写。

  • 该框架迭代地重写策展策略以诊断反复出现的故障模式,并相应地增强、过滤或细化数据。
  • 它在每个 epoch 中将原始语料库转换为监督微调数据、强化学习数据和推理时内存库。
  • 一个成本感知的目标剪枝冗余或低效用的训练轮次以提高效率。
  • 在 ACEBench-Agent、BFCL-V4 和 τ^2-Bench 上的实验表明,CurateEvo 优于先前方法,平均分数分别提高了 3.2 和 2.7 分。

作者指出,CurateEvo 与不同的后训练配方兼容,并大幅降低了策展开销。