EDO otimiza pesos do ensemble e cardinalidade para melhorar a calibração em tarefas de PLN subjetivas

Pesquisadores introduzem o Ensemble Diversity Optimization (EDO), um framework no espaço de previsão que otimiza conjuntamente os pesos do ensemble, a cardinalidade efetiva e a calibração por meio de um objetivo diferenciável unificado. O EDO aprende a composição do ensemble de ponta a ponta via relaxação Gumbel-Softmax e incorpora um regularizador de diversidade com sinal para direcionar a otimização para preservar ou suprimir o desacordo.

• Experimentos em quatro benchmarks de classificação de texto subjetivo (ArMIS, ConvAbuse, HS-Brexit, MD-Agreement) mostram que o EDO reduz a entropia cruzada em 40-78% em relação a linhas de base como Soft-CE e Top-5 Voting.
• O método reduz as pontuações de Brier enquanto mantém pontuações F1 competitivas e melhor alinhamento com as distribuições dos anotadores.

Esses resultados demonstram que otimizar conjuntamente a estrutura do ensemble com um regularizador de diversidade com sinal fornece uma abordagem eficiente e independente do modelo para modelar a subjetividade humana no aprendizado supervisionado.