शोधकर्ताओं ने Fork-think with confidence का प्रस्ताव दिया, एक विधि जो कई निरंतरताओं को सैंपल करने से पहले एक ही सीडिंग पथ के भीतर मॉडल विश्वास का उपयोग करके फर्किंग बिंदुओं की पहचान करके बड़े भाषा मॉडल के तर्क को सुधारती है। यह निर्णय-पहले-फिर-सोचने का पैराडाइम मौजूदा विधियों से अलग है जो पहले पथ सैंपल करते हैं और फिर उन्हें प्रून करते हैं।
- तीन मॉडलों और तीन तर्क बेंचमार्क्स पर टोकन खपत को 30% तक और रन-टाइम को 57% तक कम करता है।
- पुनः प्रशिक्षण, वार्म-अप या ऑफलाइन प्रशिक्षण की आवश्यकता के बिना समानांतर सोच के तुलनीय या बेहतर प्रदर्शन करता है।
- यह दर्शाता है कि बाद की स्थितियों पर सैंपलिंग करने से काफी बेहतर जनरेट होते हैं।
- state-of-the-art प्रदर्शन को मिलाने के लिए अर्ली स्टॉपिंग और वेटेड वोटिंग जैसे मौजूदा तंत्रों के साथ संयुक्त होता है।
यह दृष्टिकोण पहले-सोचें-फिर-निर्णय विधियों में निहित ओवरजनरेशन से बचकर, कुशल LLM तर्क के लिए पूर्व-निर्धारित फर्किंग को एक वादा करने वाली दिशा के रूप में स्थापित करता है।