PolicyShiftGuard présente un benchmark et un modèle pour des garde-fous image adaptatifs aux politiques

Les chercheurs présentent PolicyShiftBench, un benchmark avec 2 000 instances sur 265 images, pour évaluer si les modèles s'adaptent aux politiques de sécurité actives plutôt que de s'appuyer sur des priors au niveau de l'image. Ils proposent également PolicyShiftGuard, un modèle compact de 7B entraîné via Randomized Policy SFT et Boundary-Pair Policy Adaptation pour gérer les changements de politique.

• PolicyShiftBench associe chaque image à une moyenne de 7,55 prompts conditionnés par la politique pour tester l'adaptation à des définitions de politique hors échantillon.
• PolicyShiftGuard utilise une recette d'entraînement en deux étapes combinant RP-SFT avec BP-Adapt, qui sépare les politiques de blocage et de passage via une perte de comparaison par paire.
• Le modèle atteint des performances de pointe sur PolicyShiftBench avec 76,9 Avg. F1 et 72,1 Avg. PSS scores.
• Il se transfère bien vers UnSafeBench et SafeEditBench tout en améliorant le compromis latence-performance grâce à un format de sortie concis.

Les auteurs considèrent cela important car les VLM existants et les garde-fous spécialisés restent fragiles sous les changements de politique, tandis que PolicyShiftGuard améliore substantiellement la performance sensible aux politiques.