一项针对 Qwen3-Embedding、RoBERTa-base 和 FinBERT 等冻结嵌入主干的案例研究表明，显式领域适配的收益因模型先验知识的不同而有显著差异。该研究使用域对抗神经网络（DANN）、最大均值差异（MMD）和监督对比学习（SCL）训练轻量级 MLP 适配器，将情感分析从消费者评论迁移到电影评论（SST-2）和金融新闻。

  • 在 SST-2 数据集上，无论主干规模如何，领域适配带来的性能提升微乎其微。
  • 对于受限的子集金融新闻数据，显式领域适配为小型通用主干恢复了显著的性能。
  • 通过 DANN 进行的对抗性对齐因侵蚀预存的领域特定结构，导致 FinBERT 等域专用主干的性能下降。
  • 研究发现，监督对比损失比对抗性方法更好地保留了专用模型中的领域特定结构。

研究结果表明，仅当冻结主干缺乏足够的目标领域覆盖时，显式领域适配才有效；而不适当的对齐方法可能会损害已有专用模型的性能。