Un estudio demuestra que un entrenador de modelos adversarial puede implantar puertas traseras en una amplia clase de redes neuronales profundas y feedforward que son estadísticamente indetectables incluso en el entorno white-box. Estas puertas traseras permiten la generación de ejemplos adversarios basados en invariancia al mapear entradas distantes a salidas inusualmente cercanas.
Los modelos con puerta trasera y los entrenados honestamente permanecen cercanos en distancia de variación total, lo que significa que son indistinguibles incluso cuando están disponibles las descripciones completas del modelo, como todos los pesos. Sin la puerta trasera, es demostrablemente imposible bajo supuestos criptográficos estándar generar tales ejemplos adversarios en tiempo polinomial.
Estos hallazgos destacan una asimetría fundamental de poder entre los entrenadores de modelos y los usuarios de modelos con respecto a la seguridad e integridad de los modelos de aprendizaje profundo.