研究人员推出了 MoralAltDataset，这是一个包含307个道德困境的集合，并增加了妥协与重构的替代方案，旨在研究大型语言模型如何处理超出二元选择的选项。该研究考察了当呈现这些替代方案时，人类和大语言模型是否会改变其判断。

  • 数据集包括叙事性的 Advisor 困境和面向 AI 的 Agent 困境。
  • 在15个大语言模型中，妥协替代方案通常优于原始选项，从而大幅重塑道德选择。
  • 使用成对偏好和基于专家的标准，对大语言模型生成的替代方案与人类撰写的替代方案进行了评估。
  • 结果表明，大语言模型生成的替代方案往往更受青睐，并且更好地满足了细粒度的结构和伦理标准。

研究结果揭示了生成替代方案的结构质量与其实际可行性之间的权衡。