एक अध्ययन LLM-as-Judge स्कोरिंग पक्षपात के लिए प्रचलित इनपुट-आउटपुट दृष्टिकोण को चुनौती देता है, यह दिखाते हुए कि पक्षपात मॉडल की छिपी सक्रियण ज्यामिति में एन्कोडेड हैं। लेखकों ने नौ बेंचमार्क पर सात जजों का विश्लेषण किया और एक निम्न-आयामी, प्रकार-विशिष्ट उपअवकाश की पहचान की जहाँ पक्षपाती इनपुट विस्थापित होते हैं।
- आधारभूत निर्णय इनपुट एक सघन सक्रियण मैनिफोल्ड को घेरते हैं, जबकि पक्षपाती इनपुट नेटवर्क गहराई के साथ तीव्र होता हुआ उपअवकाश के अनुदिश विस्थापित होते हैं।
- इस विशिष्ट उपअवकाश के अनुदिश छिपी अवस्थाओं को निर्देशित करना कारणसृष्टि से दोनों दिशाओं में स्कोरिंग को चलाता है, जबकि यादृच्छिक दिशाएँ नगण्य प्रभाव उत्पन्न करती हैं।
- इन पक्षपात-दिखावट विशेषताओं पर एक रैखिक प्रक्षेपण तीन अदृश्य बेंचमार्क पर जज की विफलताओं को सटीक रूप से पूर्वानुमानित करता है, पाठ-आधारित तरीकों को पार करता हुआ।
सक्रियण ज्यामिति के रूप में पक्षपात को पढ़ना LLM निर्णय व्यवहार को समझने के लिए एकल ढांचे के भीतर ज्यामितिक संरचना, कारण नियंत्रण और संचालन पूर्वानुमान को एकीकृत करता है।