Este artículo argumenta que las pruebas de penetración tradicionales son insuficientes para sistemas habilitados con IA, ya que los adversarios pueden alterar el comportamiento mediante prompts, datos o entradas de sensores sin comprometer la infraestructura. Replantea la práctica como una evaluación conductual orientada a objetivos, definiendo la penetración con IA como inducir un comportamiento que viole los objetivos operativos bajo un modelo de amenazas específico.
- Los autores definen un sistema habilitado con IA como aquel donde los modelos aprendidos influyen materialmente en los resultados operativos.
- Las vías adversarias incluyen inyección de prompts, envenenamiento de datos, manipulación de sensores y desalineación agéntica.
- Se propone un flujo de trabajo de prueba para identificar objetivos, mapear el comportamiento, analizar superficies de influencia e informar evidencia de violación de objetivos.
- Un ejemplo continuo con un asistente de centro de operaciones de seguridad habilitado con IA ilustra cómo ocurre la penetración a través de la influencia conductual.
Este marco proporciona una base técnica para evaluar el éxito adversario en sistemas de IA desplegados al centrarse en los resultados operativos en lugar de solo el compromiso de la infraestructura.