BiRG-LoRA utiliza LoRA con puerta de rango para mejorar la respuesta a preguntas médicas

Los investigadores proponen BiRG-LoRA, un método de adaptación eficiente en parámetros para responder preguntas médicas de opción múltiple que ajusta dinámicamente los rangos de los adaptadores según las condiciones de entrada. El método emplea una puerta biaxial para seleccionar un subconjunto disperso de átomos de rango de un único módulo LoRA por capa, combinando evidencia semántica con prioridades clínicas.

• Alcanza una precisión macro-promedio del 69.31% en los benchmarks CMB, CMExam, MedQA y MedMCQA utilizando Qwen3-8B.
• Supera a MoELoRA por 0.89 puntos porcentuales mientras utiliza un 28.1% menos de parámetros entrenables.
• Mejora sobre vanilla LoRA r16 y active-rank-matched LoRA r4 en 0.83 puntos macro.
• Demuestra robustez ante ruido moderado de etiquetas mediante verificaciones de perturbación del eje débil durante la evaluación.

Los resultados indican que la asignación de rangos estructurada clínicamente mejora el rendimiento de QA médica entre benchmarks bajo un protocolo de semilla única coincidente.