研究人员引入了集成多样性优化(EDO),这是一个预测空间框架,通过统一的微分目标联合优化集成权重、有效基数和校准。EDO通过Gumbel-Softmax松弛端到端地学习集成组成,并引入带符号的多样性正则化器,以引导优化过程保留或抑制分歧。

  • 在四个主观文本分类基准(ArMIS, ConvAbuse, HS-Brexit, MD-Agreement)上的实验表明,与Soft-CE和Top-5 Voting等基线相比,EDO将交叉熵降低了40-78%。
  • 该方法在保持具有竞争力的F1分数的同时降低了Brier分数,并与标注者分布更好地对齐。

这些结果表明,联合优化集成结构并配合带符号的多样性正则化器,为监督学习中对人类主观性进行建模提供了一种高效、与模型无关的方法。