शोधकर्ताओं ने जाँच की कि क्या बड़े भाषा मॉडलों में आंतरिक प्रतिनिधित्व कैलिब्रेशन और विश्वसनीयता के लिए चेन-ऑफ़-थॉट (CoT) तर्क की तुलना में अधिक सीधा दृष्टिकोण प्रदान करते हैं। OpenForesight पर Eternis-Forecaster 8B के साथ काम करते हुए, उन्होंने मध्यवर्ती सक्रियणों पर प्रतिनिधित्व-पूलिंग प्रोब्स को प्रशिक्षित किया जो मॉडल के मानक आउटपुट की तुलना में काफी बेहतर कैलिब्रेशन प्राप्त करने में सक्षम थे।
- प्रोब्स झूठ पता लगाने वाले के रूप में भी कार्य करते हैं, व्यवहारिक बदलावों को ट्रैक करते हैं और 84% मामलों में बदलाव की दिशा की भविष्यवाणी करते हैं, भले ही CoT विकारों को छिपा दे।
- प्रमाण एब्लेशन ने दिखाया कि प्रभावशाली स्रोतों को हटाने से अक्सर पूर्वानुमान बदल जाते हैं जबकि तर्क के निशान अप्रभावित रहते हैं, जो आउटपुट और प्रक्रिया के बीच एक असंगति को उजागर करता है।
- मजबूरीपूर्वक उत्तर देने से पता चला कि पूर्वानुमान तर्क शुरू होने से पहले ही मुख्य रूप से निश्चित होते हैं; पूर्व-निर्धारित उत्तर वितरण द्वारा प्रश्नों को रूट करने से 30-47% टोकन बचाए गए, बिना किसी सटीकता की हानि के।
ये परिणाम भाषा मॉडल पूर्वानुमानकों को कैलिब्रेट करने, ऑडिट करने और प्राथमिकता देने के लिए आंतरिक प्रतिनिधित्वों की जाँच को एक व्यावहारिक उपकरण के रूप में स्थापित करते हैं।