研究者たちは、大規模モデルが高品質なマルチモーダル感情認識(MER)に必要であるという前提に疑問を投げかけ、大規模教師モデルからサブ10億パラメータの学生モデルへ知識蒸留によって転移する軽量フレームワークLight-MERを提案した。
この手法は2つの最適化戦略を導入している:隠れ状態アライメントとスライスドワッサースタイン距離を組み合わせた最適輸送損失、およびパフォーマンスと効率のバランスを取るためのGRPOに基づくマルチリワード戦略。9つのベンチマークデータセットでの広範な実験により、Light-MERが最先端のパフォーマンスを達成しつつ、リソース制約のあるプラットフォームにおいて推論効率を大幅に向上させることが示された。
本研究は、小規模マルチモーダル感情言語モデルが将来の研究において強い可能性を持っていることを強調し、大規模モデルの高い計算コストなしで解釈可能な記述生成を可能にする。