这项工作提出了双嵌入水印(DEW),一种用于大型语言模型的语义水印方案,利用上下文和词元级嵌入来增强对改写和翻译的鲁棒性。DEW 采用信号处理方法,应用代数向量空间运算来生成在水语义偏移下优雅退化的水印信号。
- 该方法通过用秘密密钥初始化的伪随机矩阵投影嵌入向量来混淆水印。
- 从底层代数派生的相关分布经过评估并用于 DEW 的统计测试和基准测试。
- 在多个 LLM 上的实验结果表明,DEW 在保持具有竞争力的文本质量的同时提高了改写后的检测能力。
- 即使先前的语义水印显著退化,水印在翻译后仍可被检测到。
这些发现将 DEW 定位为保护 LLM 生成文本并解决负责任 AI 部署中关键问题的实用且鲁棒的解决方案。