研究人员发现，在多教师在线策略蒸馏中，普通广义知识蒸馏会导致模型在召回率提高的情况下仍然过度调用工具，存在杠杆行为失衡问题。为解决此问题，他们提出了 Soft Clamp，这是一种逐 token 的散度校准方法，能够在保留非零梯度的同时动态压缩极端的 token 级 Jensen-Shannon 散度。

  • 与普通的 GKD 相比，Soft Clamp 将 APIGen-MT 上的工具过度调用率从 13.7% 降低到 9.0%。
  • 该方法达到了与普通广义知识蒸馏相当的决策准确率。
  • 在 BFCL 多轮诊断中，Soft Clamp 降低了 GKD 变体中的工具调用循环和重复调用。

这些结果表明，多教师在线策略蒸馏应关注教师信号在局部 token 位置上的作用，而不应仅依赖聚合损失指标。