Les chercheurs proposent un système de surveillance en temps réel pour les grands modèles de langage qui utilise le signal de vérificateur d'un modèle externe pour détecter les sorties non sécurisées au moment du déploiement. Le système déclenche une alarme en seuillant ce signal, avec le seuil calibré par contrôle des risques.
- L'approche repose sur une conception simple consistant à seuiller un signal de vérificateur provenant d'un modèle externe.
- Des expériences ont été menées sur des ensembles de données de raisonnement mathématique et de red teaming.
- La méthode s'avère compétitive par rapport aux moniteurs plus avancés basés sur le test d'hypothèses séquentielles.