사이버 보안에서 LLM의 양면적 위험과 방어 전략을 종합한 조사

포괄적인 조사는 대규모 언어 모델(LLM) 및 생성 AI가 사이버 보안에 미치는 양면적 영향을 분석하며, 자동화된 방어 메커니즘과 정교한 공격 벡터를 모두 다룹니다. 저자들은 Google Play Protect, Microsoft Defender, AWS 등의 플랫폼에서 통찰력을 종합하기 위해 70개 이상의 학술 논문과 산업 보고서를 검토했습니다.

• LLM 생성 멀웨어는 2025년까지 감지된 위협의 50%를 차지할 것으로 추정되며, 이는 2021년의 2%에서 큰 증가입니다.
• 이 조사는 제로데이 탐지, DevSecOps 통합, 연대 학습, 합성 콘텐츠 분석 등 유익한 애플리케이션도 검토합니다.
• 논의된 방어 전략에는 설명 가능한 AI(XAI), 모델 워터마킹, 적대적 방어 및 SAFE Framework가 포함됩니다.
• 실용적인 권장 사항은 신뢰할 수 있는 AI 시스템을 위한 책임감 있는 배포, 투명성 및 산업 간 협력을 강조합니다.

이 작업은 안전하고 확장 가능한 LLM 시스템에 대한 로드맵을 제공하며, AI 기반 위협을 다루는 연구자와 보안 리더에게 중요한 참고 자료로 작용합니다.