Pesquisadores desafiam a suposição de que modelos grandes são necessários para reconhecimento de emoções multimodais (MER) de alta qualidade, propondo o Light-MER, uma estrutura leve que transfere conhecimento de um professor grande para um estudante sub-bilhão por meio de destilação.
O método introduz duas estratégias de otimização: uma perda de transporte ótimo combinando Sliced Wasserstein Distance com alinhamento de estados ocultos, e uma estratégia de recompensas múltiplas baseada em GRPO para equilibrar desempenho e eficiência. Experimentos extensos em nove conjuntos de dados mostram que o Light-MER alcança o estado da arte (SOTA) enquanto melhora significativamente a eficiência de inferência para plataformas com recursos limitados.
Este trabalho destaca o forte potencial de pequenos modelos de linguagem multimodais para pesquisas futuras, permitindo geração de descrições interpretáveis sem os altos custos computacionais de modelos maiores.