著者らは、拡散ベースの推測的デコーディングに対して最適な推論ブロックサイズを動的に選択するサンプル適応型ポリシーであるBlockPilotを提案する。固定されたブロックサイズを使用する既存の方法とは異なり、このアプローチは事前パディング表現に基づいて、ブロックサイズの選択を軽量なポリシー学習問題として定式化する。

  • 事前パディングの後に一度だけ、事前パディング段階の表現から最適なブロックサイズを予測する。
  • 最適値の局所構造を活用して意思決定空間を削減する。
  • 温度 T=1 の下で Qwen3-4B において受容長5.92と4.20倍の高速化を実現する。

この手法は最小限のオーバーヘッドでプラグアンドプレイ可能であり、個々のサンプルに適応することで一貫して効率を向上させる。