包括的な調査は、大規模言語モデル（LLM）および生成AIがサイバーセキュリティに与える両刃の剣の影響を分析し、自動化された防御メカニズムと洗練された攻撃ベクトルの両方をカバーしています。著者はGoogle Play Protect、Microsoft Defender、AWSなどのプラットフォームからの洞察を統合するために、70以上の学術論文および業界レポートをレビューしました。

  • LLM生成マルウェアは2025年までに検出される脅威の50%を占めると推定されており、2021年の2%から大幅に増加しています。
  • 調査では、ゼロデイ検出、DevSecOps統合、連合学習、合成コンテンツ分析など、有益なアプリケーションも検討されています。
  • 議論されている防御戦略には、説明可能なAI（XAI）、モデル透かし、敵対的防御、SAFE Frameworkが含まれます。
  • 実用的な推奨事項は、信頼性の高いAIシステムのための責任あるデプロイメント、透明性、および業界横断的なコラボレーションを強調しています。

この取り組みは、安全でスケーラブルなLLMシステムのロードマップを提供することを目的としており、AI駆動の脅威に取り組む研究者やセキュリティリーダーにとって重要な参照資料となっています。