研究者らは、外部モデルの検証者信号を用いて安全性が保証できない場合にアラームをトリガーする大規模言語モデル向けのリアルタイム監視システムを提案している。このシステムは、検証者の出力しきい値処理によってアラーム判断を行い、しきい値はリスク制御手法を通じて較正される。

  • このアプローチは、複雑な逐次仮説検定ではなく、外部モデルからの信号の単純なしきい値処理に依存している。
  • パフォーマンスを評価するために、数学的推論およびレッドチームニングデータセットで実験が行われた。
  • その設計は、逐次仮説検定に基づくより高度なモニターと競争力があることが示されている。