作者质疑在摘要或审查过的最先进思维链（CoT）轨迹上微调模型的做法，认为这并非提高输出质量的万能药。

  • 蒸馏无法将输出质量提升到基础模型能力之上。
  • 基于 Fable 和 Anthropic 模型的微调受到批评，因为它们的推理轨迹与实际模型输出存在显著差异。
  • 这种不匹配保证最终微调的模型表现会比以前更差。

作者认为，依赖这些摘要轨迹对于提升推理能力是适得其反的。