연구자들은 PolicyShiftBench를 소개했습니다. 이는 265장의 이미지에 걸쳐 2,000개의 인스턴스를 가진 벤치마크로, 모델이 이미지 수준의 사전 지식에 의존하는 대신 활성 안전 정책에 적응하는지 여부를 평가하기 위한 것입니다. 또한 무작위 정책 SFT와 경계 쌍 정책 적응을 통해 훈련된 컴팩트한 7B 모델인 PolicyShiftGuard를 제안하여 정책 변화를 처리합니다.

  • PolicyShiftBench는 각 이미지에 평균 7.55개의 정책 조건부 프롬프트를 페어링하여 고립된 정책 정의에 대한 적응력을 테스트합니다.
  • PolicyShiftGuard는 RP-SFT와 BP-Adapt를 결합한 두 단계 훈련 레시피를 사용하며, 쌍별 비교 손실을 통해 차단 및 통과 정책을 분리합니다.
  • 이 모델은 PolicyShiftBench에서 76.9 Avg. F1 및 72.1 Avg. PSS 점수로 최첨단 성능을 달성했습니다.
  • UnSafeBench 및 SafeEditBench로 잘 전이되며, 간결한 출력 형식을 통해 지연 시간과 성능 간의 트레이드오프를 개선합니다.

저자들은 기존 VLM과 전문 가드레일이 정책 변화 하에서 취약한 반면, PolicyShiftGuard는 정책 민감성 성능을 크게 향상시키기 때문에 이를 중요하게 생각합니다.