arxiv
arXiv cs.CL
·
hace 2 h
Estudio empírico de la adaptación de LLM médicos en QA francés
Un estudio compara el preentrenamiento continuo (CPT), el ajuste fino supervisado (SFT) y su combinación para QA médico en francés. CPT+SFT obtiene los mejores resultados en preguntas de opción múltiple, aunque las mejoras sobre SFT son mínimas y a menudo insignificantes, lo que convierte a SFT en una opción predeterminada rentable. Para preguntas abiertas, CPT mejora las métricas mientras que SFT degrada la calidad de la generación, siendo el ajuste de instrucciones y CPT+SFT favorecidos por evaluaciones basadas en LLM. Los resultados multilingües muestran una transferencia efectiva de benchmarks franceses a ingleses.