ある研究は、敵対的なモデルトレーナーが、ホワイトボックス設定においても統計的に検出不可能なバックドアを、広範なクラスの深層フィードフォワードニューラルネットワークに仕掛けられることを実証している。これらのバックドアは、遠く離れた入力を異常に近い出力へマッピングすることで、不変性に基づく敵対的例の生成を可能にする。
バックドア付きモデルと誠実に訓練されたモデルは総変動距離において近接しており、すべての重みなどの完全なモデル記述が利用可能な場合でも区別不可能であることを意味する。バックドアがない場合、標準的な暗号学的仮定の下では、多項式時間でそのような敵対的例を生成することは証明不可能である。
これらの知見は、深層学習モデルのセキュリティと整合性に関して、モデルトレーナーとモデルユーザーの間で根本的な力の非対称性を浮き彫りにしている。