Исследователи оспаривают предположение о том, что для высококачественного мультимодального распознавания эмоций (MER) необходимы большие модели, предлагая Light-MER — легковесную архитектуру, передающую знания от большой модели-учителя к субмиллиардной модели-студенту посредством дистилляции.
Метод вводит две стратегии оптимизации: потерю оптимального транспорта, объединяющую Sliced Wasserstein Distance с выравниванием скрытых состояний, и стратегию многократных наград на основе GRPO для баланса между производительностью и эффективностью. Масштабные эксперименты на девяти наборах данных показывают, что Light-MER достигает состояния искусственного интеллекта (SOTA), значительно улучшая эффективность вывода для платформ с ограниченными ресурсами.
Эта работа подчеркивает большой потенциал малых мультимодальных языковых моделей для будущих исследований, позволяя генерировать интерпретируемые описания без высоких вычислительных затрат больших моделей.