研究人员提出了 UltraX,这是一个函数调用优化框架,旨在通过引入插入操作(与删除和修改并行)来解决现有大规模数据处理方法的局限性。该方法通过可靠的程序监督生成管道将文本对转换为结构化监督,从而实现细粒度的实例级编辑。

  • 该框架利用数据集自适应提示优化来指导专家 LLM 生成高质量的全链路优化文本。
  • 行对齐映射和动态上下文替换将原始-优化文本对转换为结构化程序监督。
  • 通过操作组合进行低置信度示例过滤和比率控制采样,提高了监督质量并稳定了训练分布。
  • 滑动窗口预测、全局操作聚合和系统化后处理在执行过程中对模型输出进行归一化和验证。

实验表明,UltraX 在所有语料库上实现了最高的平均性能,同时以更少的训练 token 匹配或超越了基线方法,这表明其具有更强的数据效率和优化可靠性。