深信服は、本番環境における新たな脅威に対してLLMの安全防御を継続的に適応させるマルチエージェントシステムであるSESG（Self-Evolving Safety Guardrails）を展開した。同システムはライブトラフィックを監視して新規のジェイルブレイクや有害なカテゴリを検出し、その後、手動介入なしでトレーニングデータの自動合成とモデルの更新を行う。

  • SESGは生成、検証、ルーティングエージェントを使用して障害を診断し、ターゲットを絞ったトレーニングバッチを作成する。
  • 1.7Bのガードレールは、手動プロセスに比べて40〜90時間かかるところを、約2時間の人件費だけで16〜24時間で新たな脅威に適応する。
  • 同システムは、0.6Bから9Bパラメータの静的ガードレールおよび適応型ベースラインを上回り、6つの新興脅威に対して優位性を示した。
  • 2026年4月以来、SESGは2ヶ月間で15の新たな脅威シナリオのうち14を自律的に封鎖した。

このアプローチにより、安全モデルは急速に進化する攻撃ベクトルに追いつきながら、一般的なスクリーニング能力を維持できる。