Исследователи представляют PolicyShiftBench, бенчмарк с 2000 примерами на основе 265 изображений, чтобы оценить, адаптируются ли модели к активным политикам безопасности, а не полагаются на приоритеты уровня изображения. Они также предлагают PolicyShiftGuard, компактную модель на 7B параметров, обученную с помощью Randomized Policy SFT и Boundary-Pair Policy Adaptation для обработки изменений политик.

  • PolicyShiftBench сопоставляет каждое изображение со средним количеством 7.55 запросов, обусловленных политикой, для проверки адаптации к новым определениям политик.
  • PolicyShiftGuard использует двухэтапный процесс обучения, сочетающий RP-SFT с BP-Adapt, который разделяет блокирующие и пропускающие политики через потерю попарного сравнения.
  • Модель достигает лучших результатов на PolicyShiftBench со средним F1 76.9 и средним PSS 72.1.
  • Она хорошо переносится на UnSafeBench и SafeEditBench, одновременно улучшая компромисс между задержкой и производительностью благодаря компактному формату вывода.

Авторы считают это важным, потому что существующие VLM и специализированные ограничители остаются хрупкими при изменениях политик, тогда как PolicyShiftGuard существенно улучшает чувствительную к политике производительность.