한 연구는 적대적 모델 트레이너가 화이트박스 설정에서도 통계적으로 탐지 불가능한 백도어를 광범위한 클래스의 심층 피드포워드 신경망에 심을 수 있음을 입증했습니다. 이러한 백도어는 멀리 떨어진 입력을 비정상적으로 가까운 출력으로 매핑하여 불변성 기반 적대적 예시를 생성할 수 있게 합니다.
백도어가 심긴 모델과 정직하게 훈련된 모델은 총 변동 거리에서 근접하므로, 모든 가중치와 같은 전체 모델 설명이 사용 가능한 경우에도 구별이 불가능함을 의미합니다. 백도어가 없다면 표준 암호학적 가정 하에 다항식 시간 내에 이러한 적대적 예시를 생성하는 것은 증명 불가능합니다.
이러한 발견은 심층 학습 모델의 보안과 무결성에 대해 모델 트레이너와 모델 사용자 간에 근본적인 힘의 비대칭성을 강조합니다.