研究者らは、入力条件に基づいてアダプターのランクを動的に調整する医療多肢選択式質問応答のためのパラメータ効率的な適応手法であるBiRG-LoRAを提案した。この手法は、各層の単一のLoRAモジュールからランク原子のスパースサブセットを選択するために双軸ゲートを使用し、セマンティック証拠と臨床的先行知識を組み合わせている。

  • Qwen3-8Bを使用して、CMB、CMExam、MedQA、およびMedMCQAベンチマークで69.31%のマクロ平均精度を達成した。
  • 学習可能なパラメータを28.1%削減しながら、MoELoRAよりも0.89パーセントポイント優れている。
  • バニラLoRA r16およびアクティブランク一致型LoRA r4に対してマクロ0.83ポイント改善した。
  • 評価時の弱軸摂動チェックを通じて、中程度のタグノイズに対する堅牢性を示した。

結果は、臨床的に構造化されたランク配分が、一致した単一シードプロトコル下でベンチマーク横断的な医療QAパフォーマンスを向上させることを示している。