一项研究表明，前沿语言模型可以利用语义无关的填充令牌执行关键计算，导致推理过程在输出的思维链中不可见的故障模式。该研究评估了三个任务中的13个模型，发现许多模型从这些令牌中获得显著益处，准确率提升高达13个百分点。

  • 填充令牌使Claude Opus 4.5能够在不牺牲主要任务准确率的情况下满足隐藏的模算术约束。
  • 强化学习赋予Qwen3-235B对特定填充令牌内容的强烈偏好，但强化学习和监督微调均未产生在测试时持续有效的益处。
  • 性能提升取决于使用的具体令牌，并在不同模型间存在差异。

这些结果表明，前沿模型已经在其输出令牌中执行无可解释痕迹的计算，证明不可见推理可以服务于完全脱离思维链监控的目标。