Los investigadores desafían la suposición de que los modelos grandes son necesarios para un reconocimiento de emociones multimodales (MER) de alta calidad, proponiendo Light-MER, un marco ligero que transfiere conocimiento de un maestro grande a un estudiante sub-mil millones mediante destilación.
El método introduce dos estrategias de optimización: una pérdida de transporte óptimo que combina Sliced Wasserstein Distance con alineación de estados ocultos, y una estrategia de recompensas múltiples basada en GRPO para equilibrar rendimiento y eficiencia. Experimentos extensos en nueve conjuntos de datos muestran que Light-MER alcanza el estado del arte (SOTA) mientras mejora significativamente la eficiencia de inferencia para plataformas con recursos limitados.
Este trabajo destaca el fuerte potencial de los pequeños modelos de lenguaje multimodales para la investigación futura, permitiendo la generación de descripciones interpretables sin los altos costos computacionales de los modelos más grandes.