Sangfor развернула SESG (Self-Evolving Safety Guardrails) — многоагентную систему, которая непрерывно адаптирует защиту LLM от новых угроз в производственной среде. Система отслеживает живой трафик на предмет новых методов обхода ограничений и вредоносных категорий, затем автоматически синтезирует обучающие данные и обновляет модель без ручного вмешательства.

  • SESG использует агенты генерации, проверки и маршрутизации для диагностики сбоев и создания целевых обучающих батчей.
  • Модель защитного ограждения на 1.7B параметров адаптируется к новым угрозам за 16–24 часа при затратах человеческих ресурсов около 2 часов, по сравнению с 40–90 часами для ручных процессов.
  • Система превосходит статические защитные ограждения от 0.6B до 9B параметров и адаптивную базовую линию на шести новых типах угроз.
  • С апреля 2026 года SESG автономно закрыла 14 из 15 новых сценариев угроз за два месяца.

Этот подход позволяет моделям безопасности успевать за быстро развивающимися векторами атак, сохраняя общую способность к фильтрации.