В данной статье исследуется применение машинного обучения для автоматического тематического индексирования на примере двух субкорпусов из Полного собрания сочинений Вольтера. Задача сформулирована как задача многоклассовой классификации, в которой модели присваивают индексные записи страницам текста.

  • В исследовании сравниваются модели на основе энкодера с классификационными головами и генеративные большие языковые модели (LLM), дообученные с помощью адаптации низкого ранга (LoRA).
  • Размер моделей варьируется примерно от 3 до 120 миллиардов параметров.
  • Лучшую производительность показала модель семейства Mistral в конфигурации с 4-битным квантованием, достигая F1-меры до 0.67.
  • Авторы утверждают, что эти показатели представляют собой нижние границы из-за присущей субъективности профессионального индексирования.

Полученные результаты имеют значение для обеспечения структурированного тематического доступа к крупномасштабным литературным и историческим корпусам.