研究者らは、307の道徳的ジレンマと、妥協案や再構成された代替案を追加した「MoralAltDataset」を発表し、大規模言語モデルが二項選択以外のオプションをどのように処理するかを研究している。本研究は、これらの代替案が提示された際に、人間とLLMが判断をシフトさせるかどうかを検証する。

  • データセットには、物語形式のAdvisorジレンマとAI向けAgentジレンマが含まれる。
  • 15種類のLLMにおいて、妥協案は元のオプションよりも頻繁に選択され、道徳的選択を大幅に変化させた。
  • LLM生成の代替案は、ペアワイズ選好と専門家基準を用いて、人間が作成した代替案と比較評価された。
  • 結果は、LLM生成の代替案がしばしば選択され、微細な構造的・倫理的基準をより満たすことを示している。

これらの知見は、生成された代替案の構造的品質と実用的な実現可能性との間のトレードオフを明らかにする。