В данном исследовании изучается, как временные метаданные могут быть структурно внедрены в модели распознавания именованных сущностей (NER) для решения проблемы дрейфа сущностей в исторических текстах. Авторы систематически оценивают легкие стратегии слияния, включая кросс-внимание, адаптеры и конкатенацию, в архитектурах на основе трансформеров.
- Эксперименты используют как абсолютные, так и относительные временные представления, внедряемые через механизмы раннего или позднего слияния.
- Оценка проводится на исторических датасетах французского и немецкого языков.
- Стратегии позднего слияния демонстрируют более устойчивую и обобщаемую во времени производительность, особенно в ранних и зашумленных периодах.
Результаты указывают на то, что специфические структурные внедрения временной информации значительно улучшают способность языковых моделей рассуждать о диахронических контекстах.