शोधकर्ताओं ने बड़े भाषा मॉडलों के लिए एक रियल-टाइम मॉनिटरिंग सिस्टम का प्रस्ताव दिया है जो डिप्लॉयमेंट समय पर असुरक्षित आउटपुट का पता लगाने के लिए बाहरी मॉडल के वेरिफायर सिग्नल का उपयोग करता है। सिस्टम इस सिग्नल को थ्रेशोल्डिंग करके अलार्म देता है, जिसका थ्रेशोल्ड रिस्क कंट्रोल के माध्यम से कैलिब्रेट किया जाता है।
- दृष्टिकोण एक बाहरी मॉडल से वेरिफायर सिग्नल को थ्रेशोल्डिंग करने के एक सरल डिज़ाइन पर निर्भर करता है।
- गणितीय तर्क और रेड टीमिंग डेटासेट पर प्रयोग किए गए।
- विधि को क्रमिक परिकल्पना परीक्षण पर आधारित अधिक उन्नत मॉनिटरों के साथ प्रतिस्पर्धी दिखाया गया है।