最近の研究は、ベンガル語のような低資源言語において、ベンチマークで訓練されたモデルが文脈依存の暗黙的なヘイトスピーチを識別できない理由を解明しました。研究者たちは、ベンチマークおよびマルチソースデータセット上で6つのアーキテクチャを評価し、明示的および暗黙的なヘイトスピーチを含む外部のソーシャルメディア投稿セットで検証を行いました。

  • BanglaBERT はベンチマークで F1 スコア 91.4% を達成しましたが、外部セットでは 75.3% に低下し、皮肉や絵文字を含む暗黙的なヘイトスピーチでは 63.4% となりました。
  • FastText + CNN の精度は、同様の外部検証条件下で 78.0% から 51.2% に低下しました。
  • 絵文字対応の前処理により、暗黙的なヘイトスピーチの検出が最大 12% 向上しましたが、絵文字の削除は顕著なパフォーマンスの低下（F1: 0.75 から 0.63）を引き起こしました。
  • 政治的に敏感なまたは風刺的なコメントでの頻繁な誤分類は、過剰な取り締まりのリスクを浮き彫りにしました。

これらの知見は、表現の自由を維持しつつ倫理的なモデレーションを確保するために、適応型、絵文字対応、文化的に根ざしたフレームワークの必要性を強調しています。