作者介绍了PSALM,这是一个“LLM-as-a-judge”框架,旨在将欧盟版权学说操作化,以评估大型语言模型中的风格挪用。与现有侧重于逐字记忆的安全措施不同,PSALM评估计算重叠以及写作风格和叙事声音等风格维度。
- 该框架利用十个评估器,涵盖风格维度(写作风格、叙事声音)和内容维度(角色、情节、场景、世界观构建)。
- 它还考虑了法定例外情况,包括戏仿、拼贴、引用和scènes à faire。
- 应用于在翻译过的荷兰历史文学作品上微调的Llama~3.2模型,研究发现微调引发了超出逐字记忆的系统性风格挪用。
- 负偏好优化(Negative Preference Optimisation)遗忘被证明能大幅降低相似性,但留下了可检测的残留风格模式。
PSALM为可审计的、受法律指导的合规评估提供了基础设施,弥合了定性法律标准和定量技术测量之间的差距。