تحلل دراسة شاملة تأثير الاستخدام المزدوج للنماذج اللغوية الكبيرة (LLMs) والذكاء الاصطناعي التوليدي على الأمن السيبراني، وتغطي كلًا من آليات الدفاع الآلية وقنوات الهجوم المتطورة. قام المؤلفون بمراجعة أكثر من 70 ورقة أكاديمية وتقارير صناعية لدمج الرؤى المستمدة من منصات مثل Google Play Protect وMicrosoft Defender وAWS.
- يُقدر أن البرمجيات الخبيثة المولدة بواسطة LLM ستشكل 50% من التهديدات المكتشفة بحلول عام 2025، وهو زيادة كبيرة مقارنة بـ 2% في عام 2021.
- تفحص الدراسة أيضًا التطبيقات المفيدة بما في ذلك الكشف عن الثغرات الصفرية (zero-day)، ودمج DevSecOps، والتعلم الفيدرالي، وتحليل المحتوى الاصطناعي.
- تشمل استراتيجيات الدفاع التي تمت مناقشتها الذكاء الاصطناعي القابل للتفسير (XAI)، وتعمية النماذج (model watermarking)، والدفاع العدائي، وإطار SAFE.
- تؤكد التوصيات العملية على النشر المسؤول، والشفافية، والتعاون عبر الصناعات لأنظمة ذكاء اصطناعي موثوقة.
تهدف هذه الدراسة إلى توفير خارطة طريق لأنظمة LLM آمنة وقابلة للتوسع، وتعمل كمرجع حاسم للباحثين وقادة الأمن الذين يتعاملون مع التهديدات المدعومة بالذكاء الاصطناعي.