一项利用牛津大学“他们最辉煌的时刻在线档案”的研究评估了三种自然语言处理(NLP)方法——命名实体识别、关键词提取和主题建模——以实现大规模关键词分配的自动化。该项目测试了从传统统计模型到现代GenAI神经网络的各种技术。
- 定量和定性结果表明,虽然NLP为大规模提取提供了真正的潜力,但没有单一方法能提供完整的解决方案。
- 模型选择显著影响结果,开放权重的抽取式模型被证明最适合负责任地部署。
- 生成式AI由于其抽象性质引入了问责风险,需要集合管理者仔细考虑。
作者认为,众包集合中的自动化关键词提取引发了关于源自活体贡献者的元数据的独特监护责任,需要在技术性能和伦理监督之间取得平衡。