연구자들은 외부 모델의 검증자 신호를 사용하여 안전성을 보장할 수 없을 때 경고를 트리거하는 대규모 언어 모델을 위한 실시간 모니터링 시스템을 제안합니다. 이 시스템은 검증자 출력에 임계값을 적용하여 경고 결정을 내리며, 임계값은 위험 제어 방법을 통해 보정됩니다.

  • 이 접근 방식은 복잡한 순차적 가설 검정 대신 외부 모델의 신호를 단순하게 임계값 처리하는 데 의존합니다.
  • 성능을 평가하기 위해 수학적 추론 및 레드 팀링 데이터셋에 대해 실험이 수행되었습니다.
  • 해당 설계는 순차적 가설 검정에 기반한 더 고급 모니터와 경쟁력 있는 것으로 나타났습니다.