Para penulis mengusulkan BlockPilot, sebuah kebijakan adaptif sampel yang secara dinamis memilih ukuran blok inferensi optimal untuk decoding spekulatif berbasis difusi. Berbeda dengan metode yang ada yang menggunakan ukuran blok tetap, pendekatan ini memformulasikan pemilihan ukuran blok sebagai masalah pembelajaran kebijakan ringan berdasarkan representasi pra-pengisian.
- Memprediksi ukuran blok optimal hanya sekali dari representasi tahap pra-pengisian setelah pra-pengisian.
- Memanfaatkan struktur lokal nilai optimal untuk mengurangi ruang keputusan.
- Mencapai panjang penerimaan 5.92 dan percepatan 4.20x pada Qwen3-4B di bawah suhu T=1.
Metode ini dijelaskan sebagai plug-and-play dengan overhead minimal, secara konsisten meningkatkan efisiensi dengan beradaptasi terhadap sampel individu.