著者らは、構造化剪定された大規模言語モデルが自由形式の生成において崩壊する際に、その生成能力を回復するために設計された短期から長期のオンポリシー蒸留スケジュールであるShortOPDを提案する。教師によって確認された反復的な接尾辞を検出し、生存した接頭辞を実効的なロールアウト長として扱うことで、この手法は標準的なアプローチよりもトレーニング予算をより効率的に配分する。

  • ShortOPDは、圧縮モデルのスコアを回復していない値の約9倍、および数学、コード、自由形式生成タスクにおいてSFT without KD、KD、SeqKDなどの標準的な回復レシピの1.6〜4.4倍に引き上げる。
  • この手法は、トレーニング時間を8.5時間から35.9時間（4分の1）に抑え、ロールアウトトークンを71%削減しながらも、固定された8192トークンのロールアウトホライズンとスコアが2ポイント以内に一致する。

このアプローチは、パープレキシティや多肢選択ベンチマークにおける限定的な改善にとどまらず、構造化剪定をdeploy-readyな生成品質に近いものへと移行させることを目的としている。