Una revisión exhaustiva analiza el impacto de doble uso de los Modelos de Lenguaje Grande (LLM) y la IA generativa en la ciberseguridad, cubriendo tanto mecanismos de defensa automatizados como vectores de ataque sofisticados. Los autores revisan más de 70 artículos académicos e informes de la industria para sintetizar información de plataformas como Google Play Protect, Microsoft Defender y AWS.
- Se estima que el malware generado por LLM representará el 50% de las amenazas detectadas para 2025, un aumento significativo respecto al 2% en 2021.
- La revisión examina aplicaciones beneficiosas, incluida la detección de vulnerabilidades de día cero, la integración de DevSecOps, el aprendizaje federado y el análisis de contenido sintético.
- Las estrategias defensivas discutidas incluyen IA explicable (XAI), marcas de agua en modelos, defensa adversarial y el Marco SAFE.
- Las recomendaciones prácticas enfatizan el despliegue responsable, la transparencia y la colaboración intersectorial para sistemas de IA confiables.
El trabajo tiene como objetivo proporcionar una hoja de ruta para sistemas LLM seguros y escalables y sirve como referencia crítica para investigadores y líderes de seguridad que navegan por las amenazas impulsadas por IA.