6つのインストラクション微調整済み大規模言語モデルの研究により、最先端システムがアフリカ系アメリカ人英語（AAE）を標準アメリカ英語に体系的に変換していることが明らかになった。著者らはこのバイアスの監査と緩和のためのエンドツーエンドのフレームワークを提示し、分離と機能レベルの局所化分析のために条件付き方言グループ不変性（cDGI）を導入した。

  • 構文構造、特に否定一致が、テストされたすべてのモデルにわたるバイアスの普遍的な引き金として特定された。
  • 研究者らはアクティベーション・スティアリングを適用した。これは因果追跡を通じて方言方向性を抽出し、バイアス関連層に注入するトレーニング不要の方法である。
  • このアプローチは、標準アメリカ英語の流暢さを維持しつつ、プロンプティングよりも5倍から20倍効果的にバイアスを低減する。
  • 本作業には、自然なツイートから17,479組のトリプレットを含む最大のリアルAAE並列コーパスであるREAL-AAEが含まれる。

本研究は、LLMが方言を黙って修正しないようにするための手法を提供し、方言バイアスを評価するための重要な新リソースを公開した。