Проект, использующий Онлайн-архив "Their Finest Hour" Оксфордского университета, оценил три подхода обработки естественного языка (NLP) — распознавание именованных сущностей (NER), извлечение ключевых слов и тематическое моделирование — для автоматизации масштабного извлечения ключевых слов. В исследовании эти методы тестировались в диапазоне от традиционных статистических моделей до современных генеративных нейронных сетей ИИ.
- Количественные и качественные результаты указывают на реальный потенциал NLP для масштабирования извлечения ключевых слов в краудсорсинговых коллекциях.
- Ни один метод не предоставляет полного решения, и выбор модели существенно влияет на результаты.
- Модели с открытым весом (open-weight) экстрактивного типа признаны наиболее подходящими для ответственного развертывания.
- Генеративный ИИ создает риски подотчетности из-за своей абстрактной природы.
Авторы утверждают, что автоматизированное извлечение ключевых слов в краудсорсинговых коллекциях порождает особые обязанности по управлению метаданными, созданными живыми участниками.