Revisão sintetiza riscos de uso duplo e estratégias defensivas para LLMs em cibersegurança

Uma revisão abrangente analisa o impacto do uso duplo dos Modelos de Linguagem Grande (LLMs) e da IA generativa na cibersegurança, cobrindo tanto mecanismos de defesa automatizados quanto vetores de ataque sofisticados. Os autores revisam mais de 70 artigos acadêmicos e relatórios da indústria para sintetizar insights de plataformas como Google Play Protect, Microsoft Defender e AWS.

• Estima-se que o malware gerado por LLMs representará 50% das ameaças detectadas até 2025, um aumento significativo em relação aos 2% em 2021.
• A revisão examina aplicações benéficas, incluindo detecção de vulnerabilidades zero-day, integração DevSecOps, aprendizado federado e análise de conteúdo sintético.
• As estratégias defensivas discutidas incluem IA explicável (XAI), marca d'água em modelos, defesa adversarial e o Framework SAFE.
• Recomendações práticas enfatizam a implantação responsável, transparência e colaboração entre setores para sistemas de IA confiáveis.

O trabalho visa fornecer um roteiro para sistemas LLM seguros e escaláveis e serve como referência crítica para pesquisadores e líderes de segurança que navegam por ameaças impulsionadas por IA.