В данной статье анализируются информационно-теоретические затраты на внедрение возможностей водяных знаков, таких как атрибуция пользователя, извлечение полезной нагрузки и локализация в генеративных моделях. Вводится информационный профиль для количественной оценки того, сколько каждый токен раскрывает о секрете, устанавливая, что обнаружение опирается на расстояние распределений, тогда как другие задачи зависят от информационной массы.
- Атрибуция для N пользователей стоит Θ(log N/h) токенов над стационарно-эргодическими источниками, достигаемая путем пороговой обработки кандидатов по реализованной неожиданности.
- Извлечение полезной нагрузки размером l бит требует Θ(l/h) токенов.
- Существует окно в Θ(log N) токенов, где текст доказуемо создан машиной, но не может быть атрибутирован.
- Эксперименты на GPT-2, Pythia-410M и Qwen2.5 восстанавливают предсказанные константы.
Исследование предоставляет строгий закон энтропийной скорости для многопользовательской атрибуции и выявляет фундаментальные ограничения, такие как неопределенность разрешения отпечатка в дизайне водяных знаков.