Исследователи представляют MoralAltDataset, набор из 307 моральных дилемм, дополненный компромиссными и переформулированными альтернативами, для изучения того, как большие языковые модели обрабатывают варианты за пределами бинарного выбора. Исследование examines, меняют ли люди и LLM свои суждения при представлении этих альтернатив.

  • Набор данных включает нарративные дилеммы Advisor и ориентированные на ИИ дилеммы Agent.
  • Среди 15 LLM компромиссные альтернативы часто предпочитались исходным вариантам, существенно изменяя моральный выбор.
  • Альтернативы, сгенерированные LLM, оценивались по сравнению с созданными людьми на основе парного предпочтения и экспертных критериев.
  • Результаты показывают, что альтернативы, сгенерированные LLM, часто предпочитаются и лучше удовлетворяют тонким структурным и этическим критериям.

Выводы выявляют компромиссы между структурным качеством сгенерированных альтернатив и их практической выполнимостью.