A Sangfor implementou o SESG (Self-Evolving Safety Guardrails), um sistema multiagente que adapta continuamente as defesas de segurança de LLMs a novas ameaças em produção. O sistema monitora o tráfego ao vivo por novos jailbreaks e categorias prejudiciais, depois sintetiza automaticamente dados de treinamento e atualiza o modelo sem intervenção manual.

  • O SESG usa agentes de geração, validação e roteamento para diagnosticar falhas e criar lotes de treinamento direcionados.
  • Um guarda-chuva de 1.7B adapta-se a novas ameaças em 16-24 horas com apenas cerca de 2 horas de esforço humano, comparado a 40-90 horas para processos manuais.
  • O sistema supera guardrails estáticos que variam de 0.6B a 9B parâmetros e uma linha de base adaptativa em seis ameaças emergentes.
  • Desde abril de 2026, o SESG fechou autonomamente 14 dos 15 novos cenários de ameaça em dois meses.

Essa abordagem permite que modelos de segurança acompanhem vetores de ataque em rápida evolução enquanto mantêm a competência geral de triagem.