研究人员引入了基于奖励门控的测试时自适应(RG-TTA),这是一种基于强化学习的框架,根据输入对偏差的敏感度,选择性地对视觉语言模型应用去偏。该方法通过仅针对对偏差敏感的查询调整正则化,解决了均匀校正方法固有的公平性与效用之间的权衡问题。

  • RG-TTA 根据每个输入的偏差敏感度,在测试时策略自适应期间自适应地触发公平性正则化。
  • 该框架专注于优化对偏差不敏感输入的跨模态对齐,以保留语义信息。
  • 在 FairFace 和 UTKFace 基准上的实验表明,在同时提升零样本效用的同时大幅降低了偏差。