Pesquisadores introduzem o MoralAltDataset, uma coleção de 307 dilemas morais ampliados com alternativas de compromisso e reformuladas, para estudar como grandes modelos de linguagem lidam com opções além das escolhas binárias. O estudo examina se humanos e LLMs mudam seus julgamentos quando essas alternativas são apresentadas.

  • O conjunto de dados inclui dilemas narrativos Advisor e dilemas Agent voltados para IA.
  • Em 15 LLMs, as alternativas de compromisso foram frequentemente preferidas em relação às opções originais, remodelando substancialmente a escolha moral.
  • As alternativas geradas por LLM foram avaliadas contra as autorais humanas usando preferência pareada e critérios baseados em especialistas.
  • Os resultados indicam que as alternativas geradas por LLM são frequentemente preferidas e satisfazem melhor os critérios estruturais e éticos refinados.

As descobertas revelam compensações entre a qualidade estrutural das alternativas geradas e sua viabilidade prática.