Авторы предлагают BlockPilot, политику, адаптируемую к выборке, которая динамически выбирает оптимальный размер блока вывода на основе диффузионного спекулятивного декодирования. В отличие от существующих методов, использующих фиксированный размер блока, этот подход формулирует выбор размера блока как легковесную задачу обучения политике на основе представлений предварительной обработки.
- Предсказывает оптимальный размер блока только один раз после этапа предварительной обработки, используя представление этого этапа.
- Использует локальную структуру оптимальных значений для уменьшения пространства решений.
- Достигает длины принятия 5.92 и ускорения в 4.20x на модели Qwen3-4B при температуре T=1.
Метод описывается как готовый к использованию (plug-and-play) с минимальными накладными расходами, постоянно повышая эффективность за счет адаптации к отдельным выборкам.