상펑은 프로덕션 환경에서 새로운 위협에 맞춰 LLM 안전 방어책을 지속적으로 적응시키는 다중 에이전트 시스템인 SESG(Self-Evolving Safety Guardrails)를 배포했습니다. 이 시스템은 실시간 트래픽을 모니터링하여 새로운 탈옥 기법과 유해 카테고리들을 감지한 후, 수동 개입 없이 자동으로 학습 데이터를 합성하고 모델을 업데이트합니다.

  • SESG는 생성, 검증 및 라우팅 에이전트를 사용하여 실패 원인을 진단하고 표적화된 학습 배치(batch)를 생성합니다.
  • 1.7B 파라미터 규모의 가드레일은 수동 프로세스에 필요한 40~90시간과 비교하여 약 2시간의 인력 투입만으로 새로운 위협에 16~24시간 내에 적응합니다.
  • 이 시스템은 0.6B에서 9B 파라미터 범위의 정적 가드레일들과 적응형 베이스라인을 여섯 가지 신규 위협 모두에서 능가합니다.
  • 2026년 4월 이후 SESG는 두 달 동안 15개 신규 위협 시나리오 중 14개를 자율적으로 차단했습니다.

이 접근 방식은 안전 모델이 빠르게 진화하는 공격 벡터에 발맞추면서도 일반적인 선별 능력을 유지할 수 있게 합니다.