यह पेपर तर्क देता है कि परंपरागत पेंनेट्रेशन टेस्टिंग AI-सक्षम सिस्टम के लिए अपर्याप्त है क्योंकि प्रतिद्वंद्वी बुनियादी ढांचे को कमजोर किए बिना प्रॉम्प्ट्स, डेटा या सेंसर इनपुट के माध्यम से व्यवहार को बदल सकते हैं। यह अभ्यास को उद्देश्य-केंद्रित व्यवहारिक मूल्यांकन के रूप में पुनर्परिभाषित करता है, AI पेंनेट्रेशन को विशिष्ट थ्रेट मॉडल के तहत संचालनात्मक उद्देश्यों का उल्लंघन करने वाले व्यवहार को प्रेरित करने के रूप में परिभाषित करता है।
- लेखकों ने AI-सक्षम सिस्टम को ऐसे सिस्टम के रूप में परिभाषित किया है जहाँ सीखे गए मॉडल संचालनात्मक परिणामों को महत्वपूर्ण रूप से प्रभावित करते हैं।
- प्रतिद्वंद्वी मार्गों में प्रॉम्प्ट इंजेक्शन, डेटा पॉइजनिंग, सेंसर मैनिपुलेशन और एजेंटिक अलाइनमेंट शामिल हैं।
- उद्देश्यों की पहचान करने, व्यवहार को मैप करने, प्रभाव सतहों का विश्लेषण करने और उद्देश्य उल्लंघन के सबूत रिपोर्ट करने के लिए एक परीक्षण कार्यप्रवाय सुझाया गया है।
- AI-सक्षम सुरक्षा संचालन केंद्र सहायक का उपयोग करते हुए एक चलता हुआ उदाहरण इस बात को दर्शाता है कि पेंनेट्रेशन व्यवहारिक प्रभाव के माध्यम से कैसे होता है।
यह ढांचा केवल बुनियादी ढांचे के कमजोर होने पर नहीं, बल्कि संचालनात्मक परिणामों पर ध्यान केंद्रित करके तैनात AI सिस्टम में प्रतिद्वंद्वी सफलता का मूल्यांकन करने के लिए एक तकनीकी आधार प्रदान करता है।