एक अध्ययन प्रदर्शित करता है कि एक प्रतिद्वंद्वी मॉडल प्रशिक्षक गहरी, फीडफॉरवर्ड तंत्रिका नेटवर्क के एक बड़े वर्ग में बैकडोर लगा सकता है जो सफेद-बॉक्स सेटिंग में भी सांख्यिकीय रूप से अदृश्य हैं। ये बैकडूर दूरस्थ इनपुट को असामान्य रूप से निकट आउटपुट में मैप करके अपरिवर्तनीयता-आधारित प्रतिद्वंद्वी उदाहरणों के उत्पादन की अनुमति देते हैं।
बैकडोर वाले और ईमानदारी से प्रशिक्षित मॉडल कुल भिन्नता दूरी में निकट रहते हैं, जिसका अर्थ है कि वे पूर्ण मॉडल विवरण जैसे सभी वजन उपलब्ध होने पर भी अविभेद्य हैं। बैकडोर के बिना, मानक क्रिप्टोग्राफिक धारणाओं के तहत बहुपद समय में ऐसे प्रतिद्वंद्वी उदाहरणों का उत्पादन करना प्रमाणित रूप से असंभव है।
ये निष्कर्ष गहरे शिक्षण मॉडल की सुरक्षा और अखंडता के संबंध में मॉडल प्रशिक्षकों और मॉडल उपयोगकर्ताओं के बीच एक मौलिक शक्ति असमरूपता को उजागर करते हैं।