Sangfor a déployé SESG (Self-Evolving Safety Guardrails), un système multi-agents qui adapte en continu les défenses de sécurité des LLM face aux nouvelles menaces en production. Le système surveille le trafic en temps réel pour détecter les nouveaux jailbreaks et les catégories nuisibles, puis synthétise automatiquement les données d'entraînement et met à jour le modèle sans intervention manuelle.

  • SESG utilise des agents de génération, de validation et de routage pour diagnostiquer les échecs et créer des lots d'entraînement ciblés.
  • Un garde-fou de 1,7B s'adapte aux nouvelles menaces en 16 à 24 heures avec seulement environ 2 heures d'effort humain, contre 40 à 90 heures pour les processus manuels.
  • Le système surpasse les garde-fous statiques allant de 0,6B à 9B paramètres et une ligne de base adaptative sur six menaces émergentes.
  • Depuis avril 2026, SESG a fermé de manière autonome 14 des 15 nouveaux scénarios de menace en deux mois.

Cette approche permet aux modèles de sécurité de suivre le rythme des vecteurs d'attaque en évolution rapide tout en maintenant une compétence générale de filtrage.