Une enquête complète analyse l'impact à double usage des grands modèles de langage (LLM) et de l'IA générative sur la cybersécurité, couvrant à la fois les mécanismes de défense automatisés et les vecteurs d'attaque sophistiqués. Les auteurs ont passé en revue plus de 70 articles académiques et rapports industriels pour synthétiser les insights provenant de plateformes telles que Google Play Protect, Microsoft Defender et AWS.

  • Le malware généré par les LLM est estimé représenter 50 % des menaces détectées d'ici 2025, soit une augmentation significative par rapport aux 2 % en 2021.
  • L'enquête examine également des applications bénéfiques telles que la détection zero-day, l'intégration DevSecOps, l'apprentissage fédéré et l'analyse de contenu synthétique.
  • Les stratégies de défense discutées incluent l'IA explicable (XAI), le tatouage de modèles, la défense adversariale et le cadre SAFE.
  • Les recommandations pratiques mettent l'accent sur le déploiement responsable, la transparence et la collaboration intersectorielle pour des systèmes d'IA dignes de confiance.

Ce travail vise à fournir une feuille de route pour des systèmes LLM sécurisés et évolutifs et sert de référence critique pour les chercheurs et les leaders de la sécurité naviguant dans les menaces pilotées par l'IA.