본 논문은 생성 모델에서 사용자 귀속, 페이로드 추출 및 로컬라이제이션과 같은 워터마킹 기능의 정보이론적 비용을 분석합니다. 비밀에 대해 각 토큰이 얼마나 많은 정보를 드러내는지 정량화하기 위해 정보 프로파일을 도입하며, 검출이 분포 거리에 의존하는 반면 다른 작업은 정보 질량에 의존함을 입증합니다.
- 정상 에르고딕 소스에 대해 N명의 사용자를 위한 다중 사용자 귀속에는 Θ(log N/h) 토큰의 비용이 들며, 이는 실현된 놀라움도를 기준으로 후보를 임계값 처리하여 달성됩니다.
- l비트 페이로드의 추출에는 Θ(l/h) 토큰이 필요합니다.
- 텍스트가 기계적으로 생성되었음이 증명되지만 귀속될 수 없는 Θ(log N) 토큰 창이 존재합니다.
- GPT-2, Pythia-410M 및 Qwen2.5에 대한 실험은 예측된 상수를 복원했습니다.
본 연구는 다중 사용자 귀속에 대한 엄격한 엔트로피율 법칙을 제공하고 워터마크 설계의 발자국 해상도 불확실성과 같은 근본적인 한계를 식별합니다.