एक अध्ययन दिखाता है कि फ्रंटियर भाषा मॉडल अर्थहीन फिलर टोकन्स का उपयोग करके महत्वपूर्ण गणना कर सकते हैं, जिससे एक विफलता मोड उत्पन्न होता है जहाँ तर्क आउटपुट चेन-ऑफ़-थॉट में दिखाई नहीं देता। शोध ने तीन कार्यों पर 13 मॉडल का मूल्यांकन किया और पाया कि कई मॉडल इन टोकन्स से काफी लाभान्वित होते हैं, जिससे सटीकता में 13 प्रतिशत अंक तक की वृद्धि हुई।
- फिलर टोकन्स Claude Opus 4.5 को प्राथमिक कार्य की सटीकता को कम किए बिना छिपे हुए मॉड्यूलर अंकगणित बाधाओं को पूरा करने में सक्षम बनाते हैं।
- रीइंफोर्समेंट लर्निंग Qwen3-235B को विशिष्ट फिलर टोकन सामग्री के लिए मजबूत प्राथमिकताएं देता है, लेकिन न तो RL और न ही सुपरवाइज्ड फाइन-ट्यूनिंग परीक्षण समय पर बना रहने वाले लाभ उत्पन्न करते हैं।
- प्रदर्शन लाभ इस बात पर निर्भर करता है कि कौन से टोकन्स का उपयोग किया गया है और यह विभिन्न मॉडल के बीच भिन्न होता है।
ये परिणाम संकेत देते हैं कि फ्रंटियर मॉडल पहले ही ऐसे गणना कर रहे हैं जिसका कोई व्याख्या योग्य पता उनके आउटपुट टोकन्स में नहीं है, यह दर्शाते हुए कि अदृश्य तर्क चेन-ऑफ़-थॉट निगरानी के लिए पूरी तरह से अदृश्य उद्देश्यों की सेवा कर सकता है।