قمت OpenAI بتطوير GPT-Red، وهو نموذج اختبار اختراق أمني تلقائي تم تدريبه عبر التعلم التعزيزي باللعب الذاتي لكشف نقاط الضعف وتوليد بيانات عدائية لتحسين النماذج المستقبلية.
- يتم تدريب GPT-Red على نطاق الحوسبة الخاص بتشغيل ما بعد التدريب الرئيسي، باستخدام نظام مكافآت ينجح من خلاله بإثبات فشل نماذج اللغات الدفاعية (LLMs).
- تم استخدام النموذج لتدريب GPT-5.6 Sol بشكل عدائي، مما أدى إلى تقليل الفشل بمقدار 6 مرات في معايير حقن الأوامر المباشرة مقارنة بأفضل نموذج إنتاجي قبل أربعة أشهر.
- حقق GPT-Red معدل نجاح هجوم بنسبة 84% ضد GPT-5.1 في سيناريوهات جديدة، متفوقاً بشكل كبير على فرق الاختراق البشرية التي حققت 13%.
- نجح في اختراق آلة بيع تعمل بالذكاء الاصطناعي محاكاةً عن طريق تغيير الأسعار وإلغاء الطلبات، وأظهر كفاءة عالية في الرموز (tokens) ضد وكلاء Codex CLI.
- تم التحقق من أن مكاسب المتانة تنبع من المقاومة للتعليمات الخبيثة بدلاً من زيادة رفض الطلبات المشروعة، حيث فشل GPT-5.6 Sol فقط في 0.05% من حقن GPT-Red المباشرة.
يؤسس هذا النهج "عجلة دوارة" قابلة للتوسع للأمان، مما يسمح للنماذج الحالية بتحسين المتانة والمحاذاة لإصدارات الغد بشكل مباشر.