BiRG-LoRA usa LoRA com porta de rank para melhorar a resposta a perguntas médicas

Pesquisadores propõem o BiRG-LoRA, um método de adaptação eficiente em parâmetros para responder perguntas médicas de múltipla escolha que ajusta dinamicamente os ranks dos adaptadores com base nas condições de entrada. O método emprega uma porta biaxial para selecionar um subconjunto esparsos de átomos de rank de um único módulo LoRA por camada, combinando evidência semântica com prioridades clínicas.

• Alcança 69,31% de precisão macro-média nos benchmarks CMB, CMExam, MedQA e MedMCQA usando Qwen3-8B.
• Supera o MoELoRA em 0,89 pontos percentuais enquanto utiliza 28,1% menos parámetros treináveis.
• Melhora em relação ao vanilla LoRA r16 e active-rank-matched LoRA r4 em 0,83 pontos macro.
• Demonstra robustez a ruído moderado de tags por meio de verificações de perturbação do eixo fraco durante a avaliação.

Os resultados indicam que a alocação de rank estruturada clinicamente melhora o desempenho de QA médica entre benchmarks sob um protocolo de seed única correspondente.