Une étude récente diagnostique pourquoi les modèles entraînés sur des benchmarks échouent à identifier les discours haineux implicites et dépendants du contexte dans des langues sous-dotées en ressources comme le bangla. Les chercheurs ont évalué six architectures sur des ensembles de données de benchmark et multi-sources, puis les ont validées sur un ensemble externe de publications sur les réseaux sociaux contenant des discours haineux explicites et implicites.
- BanglaBERT a obtenu un score F1 de 91,4 % sur les benchmarks, mais celui-ci est tombé à 75,3 % sur l'ensemble externe et à 63,4 % pour les discours haineux implicites impliquant ironie et emojis.
- La précision de FastText + CNN est passée de 78,0 % à 51,2 % dans des conditions de validation externe similaires.
- Le prétraitement sensible aux emojis a amélioré la détection des discours haineux implicites jusqu'à 12 %, tandis que la suppression des emojis a entraîné une baisse notable des performances (F1 : 0,75 à 0,63).
- Des erreurs de classification fréquentes dans les commentaires politiquement chargés ou satiriques ont révélé les risques d'une surveillance excessive.
Ces résultats soulignent le besoin de cadres adaptatifs, sensibles aux emojis et enracinés culturellement pour garantir une modération éthique tout en préservant la liberté d'expression.