यह लेख DISA (गतिशील प्रतिरक्षा-शंट आर्किटेक्चर) प्रस्तुत करता है, जो बड़े भाषा मॉडलों में संभावित प्रतिसाधक व्यवहार का पता लगाने के लिए एक अवधारणात्मक शोध प्रस्ताव है, जो केवल दृश्यमान आउटपुट पर निर्भर रहने के बजाय विरल आंतरिक निगरानी के माध्यम से ऐसा करता है। इस फ्रेमवर्क का उद्देश्य इस जोखिम को संबोधित करना है कि सक्षम मॉडल तब अलग व्यवहार कर सकते हैं जब वे पहचानते हैं कि उन पर निगरानी की जा रही है।
DISA चार मुख्य घटकों से बना है:
- ASAM (एसींक्रोनस विरल सक्रियण निगरानी) कंप्यूटेशनल ओवरहेड को लगातार निगरानी की तुलना में कम करने के लिए अवशिष्ट सक्रियण और एटेंशन प्रतिनिधित्व जैसे चुने गए आंतरिक स्थितियों का नमूना लेता है।
- MDRE (बहु-संकेत प्रतिसाधन जोखिम अनुमान) भ्रम को प्रतिसाधन के साथ नहीं भ्रमित किए बिना जोखिम का अनुमान लगाने के लिए सक्रियण-प्रोब सबूत, व्यवहारिक असंगति और अनिश्चितता सहित कई संकेतों को जोड़ता है।
- RIA (रिवर्सिबल इंटरवेंशन एडाप्टर) मॉडल क्षमताओं को बनाए रखते हुए लक्षित व्यवहार को कम करने के लिए स्टीयरिंग दिशाओं या लो-रैंक एडाप्टर्स जैसे अस्थायी हस्तक्षेप लागू करता है।
- IAI (आइसोलेटेड ऑडिट इंफ्रास्ट्रक्चर) ट्रिगर और लक्षित व्यवहारों को स्वतंत्र रूप से नियंत्रित करने वाले चार-श्रेणी डेटासेट का उपयोग करके मूल्यांकन प्रक्रिया का समर्थन करता है ताकि मेमोराइजेशन को रोका जा सके।
प्रस्ताव पर जोर देता है कि DISA एक फल्सिफिएबल फ्रेमवर्क है जिसे परीक्षण, आलोचना या अस्वीकार करने के लिए बनाया गया है, न कि प्रतिसाधक एलाइनमेंट का एक निश्चित समाधान।