Survei mensintesis risiko penggunaan ganda dan strategi pertahanan untuk LLM dalam keamanan siber

Sebuah survei komprehensif menganalisis dampak penggunaan ganda dari Model Bahasa Besar (LLM) dan AI generatif terhadap keamanan siber, mencakup mekanisme pertahanan otomatis dan vektor serangan yang canggih. Para penulis meninjau lebih dari 70 makalah akademik dan laporan industri untuk mensintesis wawasan dari platform seperti Google Play Protect, Microsoft Defender, dan AWS.

• Malware yang dihasilkan oleh LLM diperkirakan akan menyumbang 50% dari ancaman yang terdeteksi pada tahun 2025, peningkatan signifikan dari 2% pada tahun 2021.
• Survei tersebut juga memeriksa aplikasi bermanfaat termasuk deteksi zero-day, integrasi DevSecOps, pembelajaran federasi, dan analisis konten sintetis.
• Strategi pertahanan yang dibahas mencakup AI yang dapat dijelaskan (XAI), watermarking model, pertahanan adversarial, dan Kerangka SAFE.
• Rekomendasi praktis menekankan penempatan yang bertanggung jawab, transparansi, dan kolaborasi lintas industri untuk sistem AI yang dapat dipercaya.

Karya ini bertujuan untuk memberikan peta jalan bagi sistem LLM yang aman dan skalabel serta berfungsi sebagai referensi kritis bagi peneliti dan pemimpin keamanan yang menghadapi ancaman berbasis AI.