研究人员提出了一种用于大型语言模型的实时监控系统，该系统利用外部模型的验证器信号在部署时检测不安全输出。系统通过对该信号进行阈值处理来发出警报，并通过风险控制校准阈值。

  • 该方法依赖于对来自外部模型的验证器信号进行阈值处理的简单设计。
  • 实验在数学推理和红队测试数据集上进行。
  • 与基于顺序假设检验的更高级监控器相比，该方法显示出竞争力。