연구자들은 배포 시점의 안전하지 않은 출력을 감지하기 위해 외부 모델의 검증자 신호를 사용하는 대규모 언어 모델을 위한 실시간 모니터링 시스템을 제안합니다. 이 시스템은 위험 제어를 통해 보정된 임계값으로 이 신호를 임계화하여 경고를 발생시킵니다.
- 이 접근 방식은 외부 모델의 검증자 신호를 임계화하는 단순한 설계에 의존합니다.
- 수학적 추론과 레드 팀링 데이터셋에서 실험이 수행되었습니다.
- 이 방법은 순차적 가설 검출을 기반으로 하는 더 고급 모니터와 경쟁력 있는 것으로 나타났습니다.