Los investigadores presentan MoralAltDataset, una colección de 307 dilemas morales ampliados con alternativas de compromiso y reformuladas, para estudiar cómo los grandes modelos de lenguaje manejan opciones más allá de las elecciones binarias. El estudio examina si los humanos y los LLM cambian sus juicios cuando se presentan estas alternativas.

  • El conjunto de datos incluye dilemas narrativos Advisor y dilemas Agent orientados a la IA.
  • En 15 LLM, las alternativas de compromiso fueron a menudo preferidas sobre las opciones originales, remodelando sustancialmente la elección moral.
  • Las alternativas generadas por LLM se evaluaron frente a las autoría humana utilizando preferencia por pares y criterios basados en expertos.
  • Los resultados indican que las alternativas generadas por LLM son a menudo preferidas y satisfacen mejor los criterios estructurales y éticos finos.

Los hallazgos revelan compensaciones entre la calidad estructural de las alternativas generadas y su viabilidad práctica.