संगफोर् ने SESG (Self-Evolving Safety Guardrails) तैनात किया है, जो एक बहु-एजेंट सिस्टम है जो उत्पादन में नए खतरों के लिए LLM सुरक्षा रक्षाओं को निरंतर अनुकूलित करता है। सिस्टम नई जेलब्रेक्स और हानिकारक श्रेणियों के लिए लाइव ट्रैफिक की निगरानी करता है, फिर स्वचालित रूप से प्रशिक्षण डेटा का संश्लेषण करता है और मॉडल को अपडेट करता है, बिना किसी मानवीय हस्तक्षेप के।
- SESG विफलताओं का पता लगाने और लक्षित प्रशिक्षण बैच बनाने के लिए जनरेशन, वैलिडेशन और रूटिंग एजेंटों का उपयोग करता है।
- 1.7B गार्डरेल केवल लगभग 2 घंटे की मानवीय मेहनत के साथ 16-24 घंटों में नए खतरों के लिए अनुकूलित होता है, जबकि मैन्युअल प्रक्रियाओं के लिए 40-90 घंटे लगते हैं।
- सिस्टम छह उभरते हुए खतरों पर 0.6B से 9B पैरामीटर तक की स्थिर गार्डरेल्स और एक अनुकूलनशील आधार रेखा से बेहतर प्रदर्शन करता है।
- अप्रैल 2026 के बाद से, SESG ने दो महीनों में 15 नए खतरा परिदृश्यों में से 14 को स्वचालित रूप से बंद कर दिया है।
यह दृष्टिकोण सुरक्षा मॉडलों को तेजी से विकसित होने वाले आक्रमण वेक्टर के साथ कदम मिलाने की अनुमति देता है, जबकि सामान्य स्क्रीनिंग क्षमता बनाए रखता है।