Os pesquisadores apresentam o PolicyShiftBench, um benchmark com 2.000 instâncias sobre 265 imagens, para avaliar se os modelos se adaptam a políticas de segurança ativas em vez de depender de prioridades em nível de imagem. Eles também propõem o PolicyShiftGuard, um modelo compacto de 7B treinado via Randomized Policy SFT e Boundary-Pair Policy Adaptation para lidar com mudanças de política.

  • O PolicyShiftBench emparelha cada imagem com uma média de 7.55 prompts condicionados por política para testar a adaptação a definições de política não vistas.
  • O PolicyShiftGuard usa uma receita de treinamento em duas etapas combinando RP-SFT com BP-Adapt, que separa políticas de bloqueio e passagem por meio de perda de comparação por pares.
  • O modelo alcança desempenho de estado da arte no PolicyShiftBench com 76.9 de F1 médio e 72.1 de PSS médio.
  • Ele se transfere bem para UnSafeBench e SafeEditBench enquanto melhora a compensação entre latência e desempenho por meio de um formato de saída conciso.

Os autores consideram isso importante porque os VLMs existentes e guardrails especializados permanecem frágeis sob mudanças de política, enquanto o PolicyShiftGuard melhora substancialmente o desempenho sensível à política.