一项全面的综述分析了大型语言模型（LLM）和生成式人工智能对网络安全的双重影响，涵盖了自动化防御机制和复杂的攻击向量。作者回顾了70多篇学术论文和行业报告，以综合来自Google Play Protect、Microsoft Defender和AWS等平台的见解。

  • 预计到2025年，由LLM生成的恶意软件将占已检测威胁的50%，相较于2021年的2%有显著增长。
  • 该综述考察了有益的应用场景，包括零日漏洞检测、DevSecOps集成、联邦学习和合成内容分析。
  • 讨论的防御策略包括可解释人工智能（XAI）、模型水印、对抗性防御以及SAFE框架。
  • 实际建议强调负责任地部署、透明度以及跨行业协作，以建立可信的人工智能系统。

这项工作旨在为安全、可扩展的LLM系统提供路线图，并为在人工智能驱动威胁中导航的研究人员和安全领导者提供关键参考。