शोधकर्ताओं ने बहुआयामी प्रकृति को संबोधित करने के लिए बड़े भाषा मॉडलों (LLMs) में सycophancy के आंतरिक प्रतिनिधित्वों को तथ्यात्मक और राय उपप्रकारों में अलग कर दिया है। एक उपप्रकार पर रैखिक प्रोब्स प्रशिक्षित करके और स्टीयरिंग वेक्टर बनाकर, उन्होंने साझा प्रतिनिधित्वों को मापने के लिए दूसरे पर स्थानांतरण का मूल्यांकन किया।
- अध्ययन सycophancy के अलग-अलग प्रकटनों के रूप में जांच योग्य दावों (तथ्यात्मक) और व्यक्तिगत विश्वासों (राय) के बीच अंतर करता है।
- एक उपप्रकार की सक्रियणों पर रैखिक प्रोब्स और स्टीयरिंग वेक्टर बनाए गए थे और दूसरे के लिए स्थानांतरणीयता के लिए परीक्षण किए गए थे।
- सबूत दिखाते हैं कि विभिन्न LLMs इन उपप्रकारों को अलग-अलग तरीके से दर्शाते हैं, या तो अधिक एकीकृत या अधिक विशिष्ट और कारण हस्तक्षेपकारी प्रतिनिधित्व प्रदर्शित करते हुए।
इस अलगाव की विधि जटिल मॉडल व्यवहारों के प्रतिनिधित्व संरचना का अध्ययन करने के लिए एक वादा करने वाला ढांचा प्रदान करती है।