저자들은 확산 기반 추측적 디코딩을 위해 동적으로 최적의 추론 블록 크기를 선택하는 샘플 적응형 정책인 BlockPilot을 제안합니다. 고정된 블록 크기를 사용하는 기존 방법과 달리, 이 접근 방식은 사전 채우기 표현을 기반으로 블록 크기 선택을 경량 정책 학습 문제로 공식화합니다.

  • 사전 채우기 단계의 표현에서만 사전 채우기 후에 한 번 최적의 블록 크기를 예측합니다.
  • 최적 값의 지역 구조를 활용하여 결정 공간을 줄입니다.
  • 온도 T=1에서 Qwen3-4B에 대해 5.92의 수용 길이와 4.20배의 속도 향상을 달성합니다.

이 방법은 최소한의 오버헤드로 플러그 앤 플레이가 가능하며, 개별 샘플에 적응하여 효율성을 일관되게 향상시킵니다.