लेखकों ने BlockPilot का प्रस्ताव दिया है, जो एक नमूना-अनुकूलित नीति है जो विसरण-आधारित अनुमानित डिकोडिंग के लिए इष्टतम इनफरेंस ब्लॉक आकार को गतिशील रूप से चुनता है। मौजूदा तरीकों के विपरीत जो एक निश्चित ब्लॉक आकार का उपयोग करते हैं, यह दृष्टिकोण ब्लॉक आकार चयन को प्रीफिलिंग प्रतिनिधित्वों पर आधारित एक हल्की नीति सीखने की समस्या के रूप में व्यक्त करता है।

  • प्रीफिलिंग के बाद केवल एक बार प्रीफिलिंग चरण प्रतिनिधित्व से इष्टतम ब्लॉक आकार की भविष्यवाणी करता है।
  • निर्णय स्थान को कम करने के लिए इष्टतम मानों की स्थानीय संरचना का लाभ उठाता है।
  • तापमान T=1 पर Qwen3-4B पर 5.92 की स्वीकृति लंबाई और 4.20x की गति वृद्धि प्राप्त करता है।

इस विधि को न्यूनतम ओवरहेड के साथ प्लग-एंड-प्ले के रूप में वर्णित किया गया है, जो व्यक्तिगत नमूनों के अनुसार अनुकूलित होकर दक्षता में लगातार सुधार करता है।