Peneliti memperkenalkan MoralAltDataset, sebuah kumpulan dari 307 dilema moral yang diperkaya dengan alternatif kompromi dan direframing ulang, untuk mempelajari bagaimana model bahasa besar menangani opsi di luar pilihan biner. Studi ini memeriksa apakah manusia dan LLM mengubah penilaian mereka ketika alternatif-alternatif ini disajikan.

  • Dataset ini mencakup dilema Advisor naratif dan dilema Agent yang ditujukan untuk AI.
  • Di seluruh 15 LLM, alternatif kompromi sering kali lebih disukai daripada opsi asli, secara substansial membentuk ulang pilihan moral.
  • Alternatif yang dihasilkan oleh LLM dievaluasi terhadap yang dibuat oleh manusia menggunakan preferensi berpasangan dan kriteria berbasis pakar.
  • Hasil menunjukkan bahwa alternatif yang dihasilkan oleh LLM sering kali lebih disukai dan lebih memenuhi kriteria struktural halus serta etis.

Temuan ini mengungkap trade-off antara kualitas struktural alternatif yang dihasilkan dan kelayakan praktisnya.