研究者らは、大規模言語モデルが主に西洋的なものではなく多様なグローバルな価値観を反映するのを支援するために設計された大規模な選好データセットであるPLURALを発表した。このデータセットは92カ国にわたる統合価値調査に基づいており、20の多様な国の人々を表す約50万個の合成選好トリプレットを含んでいる。

  • PLURALは、規範的な価値信号を保持しつつ、全国代表の調査回答を実用的なシナリオに変換する。
  • データセットレベルでの検証により、元の調査における国間差と国内の多様性の両方が保持されていることが確認された。
  • 自動評価では、PLURALでトレーニングすることで、強力なベースラインと比較して文化的プロファイルのアライメントにおける平均絶対誤差が最大27.7%減少することが示された。
  • インド、ブラジル、日本の176人の参加者による盲検人間評価では、PLURALにアライメントされた回答が自国の価値観をより代表していると判断された。

著者らは、これが多様性のあるアライメントのためのスケーラブルなリソースを提供し、モデルがグローバルに多様な価値体系をよりよく表現できるようにするため、これを重要視している。