Новая гибридная архитектура под названием FAD-SA-GRU была разработана для улучшения автоматического обнаружения разжигания ненависти в алжирском арабском диалекте (дарижа) в социальных сетях. Модель учитывает лингвистическое разнообразие диалекта путем объединения семантических представлений из DZ FastText, DZ AraVec и DziriBERT через многовекторное слияние, за которым следует кодировщик GRU с улучшенным механизмом самовнимания.

  • FAD-SA-GRU превосходит традиционные методы машинного обучения, рекуррентные нейронные сети и базовые модели на основе трансформеров, такие как multilingual BERT.
  • Модель достигла точности 93,2%, прецизионности 93,4%, полноты 91,0%, F1-меры 92,1% и ROC-AUC 97,0% на аннотированном наборе данных комментариев из социальных сетей на алжирском дарижа.
  • Результаты демонстрируют эффективность объединения дополнительных векторных представлений с последовательным моделированием на основе внимания для надежного обнаружения в низкообеспеченных диалектах арабского языка.