نشرت OpenAI تفاصيل حول GPT-Red، وهو نموذج داخلي فقط لاختبار الاختراق التلقائي صُمم لتحديد ثغرات حقن الأوامر في أنظمتها الخاصة. يستخدم النظام تعلم التعزيز باللعب الذاتي لمهاجمة والدفاع ضد سيناريوهات متنوعة، مما يعالج حدود قابلية توسيع نطاق اختبار الاختراق البشري.
- حقق GPT-Red معدل نجاح بنسبة 84% في سيناريوهات حقن الأوامر غير المباشر ضد GPT-5.1، مقارنة بـ 13% لفريق اختبار الاختراق البشري.
- اكتشف النموذج هجومًا جديدًا يُسمى "Fake Chain-of-Thought"، وحقق نجاحًا يتجاوز 95% ضد GPT-5.1 لكنه يقل عن 10% ضد GPT-5.6 Sol.
- في دراسات الحالة الحية، نجح GPT-Red في التلاعب بوكيل آلة بيع لتغيير الأسعار وإلغاء الطلبات.
- تطلب تدريب المدافعين منهم مقاومة الهجمات مع إكمال مهامهم الأصلية، مما يمنع الانتصارات القائمة على الرفض.
تسلط النتائج الضوء على سطح الهجوم المتزايد للأنظمة الوكيلية وتوضح كيف يمكن لاختبار الاختراق التلقائي أن يكشف عن ثغرات يغفلها الفرق البشرية.