本文提出了一项关于与网络犯罪相关的 Discord 聊天中解释难度的探索性研究,其中有害通信通常依赖于俚语和编码术语。
- 作者构建了由专家审核的困难消息的参考解释。
- 他们在不同的上下文条件下评估了人类和大型语言模型(LLM)的解释。
- 发现仅靠局部上下文对人类来说是不够的,而外部知识和扩展的对话上下文显著改善了解释效果。
- 对于 LLM,局部上下文也改善了解释,且更大的模型表现更好。
- 该研究提出了使有害聊天难以解释的因素的分类框架。
这些发现表明,有害内容分析应将解释视为证据整合问题,而非仅作为消息级别的分类。