Комплексный обзор анализирует влияние больших языковых моделей (LLM) и генеративного ИИ на кибербезопасность, охватывая как механизмы автоматической защиты, так и сложные векторы атак. Авторы рассматривают более 70 академических статей и отраслевых отчетов для обобщения информации из таких платформ, как Google Play Protect, Microsoft Defender и AWS.
- Ожидается, что вредоносное ПО, созданное с помощью LLM, будет составлять 50% от всех обнаруженных угроз к 2025 году, что является значительным ростом по сравнению с 2% в 2021 году.
- В обзоре рассматриваются полезные приложения, включая обнаружение уязвимостей нулевого дня, интеграцию DevSecOps, федеративное обучение и анализ синтетического контента.
- Обсуждаемые стратегии защиты включают объяснимый ИИ (XAI), водяные знаки для моделей, защиту от состязательных атак и фреймворк SAFE.
- Практические рекомендации подчеркивают ответственное развертывание, прозрачность и межотраслевое сотрудничество для создания надежных систем ИИ.
Работа направлена на предоставление дорожной карты для безопасных и масштабируемых систем LLM и служит важным справочником для исследователей и руководителей по безопасности, работающих с угрозами, основанными на ИИ.