研究人员提出了 BiRG-LoRA,这是一种用于医学多项选择题回答的参数高效适配方法,可根据输入条件动态调整适配器秩。该方法采用双轴门控,从每层的单个 LoRA 模块中选择稀疏的秩原子子集,将语义证据与临床先验相结合。

  • 在 CMB、CMExam、MedQA 和 MedMCQA 基准测试中,使用 Qwen3-8B 实现了 69.31% 的宏观平均准确率。
  • 比 MoELoRA 高出 0.89 个百分点,同时使用的可训练参数减少了 28.1%。
  • 相比 vanilla LoRA r16 和 active-rank-matched LoRA r4 提升了 0.83 个宏观点。
  • 通过评估时的弱轴扰动检查,展示了其对适度标签噪声的鲁棒性。

结果表明,在匹配的单一种子协议下,临床结构化的秩分配增强了跨基准的医学 QA 性能。