一项研究调查了不同形式的概念基础如何影响四个最先进的语言模型在反犹主义检测和解释行为方面的表现。通过使用两个专家标注的数据集,研究人员比较了反犹主义的定义性、细粒度分类、示例增强和大型上下文表示。
- 细粒度分类表示大幅提高了召回率,同时降低了精确度。
- 提供显著更大的概念资源并未带来额外的定量收益。
- 大屠杀后的反犹主义在模型和配置中构成了最持久的挑战。
- 分析揭示了系统性限制,包括概念引用的过度生产、对词汇线索的依赖、过度自信以及处理微妙或辩护性反犹主义形式的困难。
这些发现突显了概念基础LLM在检测和推理反犹主义方面的潜力以及尚存的局限性。