शोधकर्ताओं ने HyperSafe प्रस्तावित किया, एक फ्रेमवर्क जो इन्फ़रेंस के दौरान मॉडल-विशिष्ट सेफ साइड नेटवर्क (SSN) उत्पन्न करके फाइन-ट्यूंड बड़े भाषा मॉडलों में सुरक्षा व्यवहार को पुनर्स्थापित करता है। विधि मूल मॉडल वजन को संशोधित किए बिना, प्रतिनिधित्वों को SSN पैरामीटर से मैप करने के लिए लेयर-वाइस एक्टिवेशन फिंगरप्रिंट्स और कैलिब्रेशन प्रॉम्प्स का उपयोग करती है।
- HyperSafe एक्टिवेशन फिंगरप्रिंट्स पर एकल फॉरवर्ड पास का उपयोग करके प्रत्येक फाइन-ट्यूंड चेकपॉइंट के लिए एक SSN उत्पन्न करता है।
- SSN प्रॉम्प्ट-लेवल सुरक्षा वर्गीकरण करता है, हानिकारक इनपुटों को रिफ्यूज़ की ओर रूट करते हुए सुरक्षित प्रॉम्प्स को फ्रोजन मॉडल से गुजरने देता है।
- Qwen2-7B और LLaMA-3-8B पर मूल्यांकन किया गया, यह हेल्ड-आउट चेकपॉइंट्स पर हानिकारक प्रतिक्रिया दरों को 19-31% से कम करके 1% से नीचे लाता है।
- डाउनस्ट्रीम कार्य सटीकता औसतन फाइन-ट्यूंड बेलाइन के 1% के भीतर बनी रहती है।
यह दृष्टिकोण एक नॉन-इन्वेसिव, पोस्ट-हॉक सुरक्षा पुनर्स्थापना विधि प्रदान करता है जिसमें डिप्लॉयमेंट समय पर कोई ग्रेडिएंट अपडेट या अतिरिक्त सुरक्षा डेटा की आवश्यकता नहीं होती है।