OpenAI ने GPT-Red विकसित किया है, जो एक स्वचालित सुरक्षा रेड-टीमिंग मॉडल है जिसे भविष्य के मॉडलों की बेहतर प्रणाली बनाने के लिए कमजोरियों को उजागर करने और विरोधाभासी डेटा उत्पन्न करने के लिए स्वयं-खेल पुनर्बल सीखने के माध्यम से प्रशिक्षित किया गया है।
- GPT-Red को मुख्य पोस्ट-ट्रेनिंग रन के कंप्यूट स्केल पर प्रशिक्षित किया जाता है, जहाँ एक इनाम प्रणाली का उपयोग किया जाता है जिसमें यह रक्षक LLMs से विफलताएँ उत्पन्न करके सफल होता है।
- इस मॉडल का उपयोग GPT-5.6 Sol को विरोधाभासी रूप से प्रशिक्षित करने के लिए किया गया, जिससे चार महीने पहले की सर्वोत्तम उत्पादन मॉडल की तुलना में सीधे प्रॉम्प्ट इंजेक्शन बेंचमार्क्स पर विफलताएँ 6 गुना कम हो गईं।
- GPT-Red नवीन परिदृश्यों में GPT-5.1 के खिलाफ 84% हमला सफलता दर प्राप्त करता है, जो मानव रेड-टीमर्स द्वारा प्राप्त 13% से काफी बेहतर है।
- इसने एक काल्पनिक AI-संचालित वेंडिंग मशीन को कीमतों को बदलकर और ऑर्डर रद्द करके सफलतापूर्वक कमजोर किया, और Codex CLI एजेंट्स के खिलाफ उच्च टोक दक्षता प्रदर्शित की।
- मजबूती में वृद्धि का स्रोत दुर्भावनापूर्ण निर्देशों के प्रति प्रतिरोध से है, न कि वैध अनुरोधों को अस्वीकार करने में वृद्धि से, और GPT-5.6 Sol ने GPT-Red की सीधी इंजेक्शन में केवल 0.05% विफलता दर्ज की।
यह दृष्टिकोण सुरक्षा के लिए एक स्केलेबल "फ्लाईव्हील" स्थापित करता है, जिससे आज के मॉडल कल के रिलीज़ की मजबूती और संरेखण को सीधे बढ़ा सकें।