Makalah ini menganalisis biaya teoretis informasi dari kemampuan penandaan air seperti atribusi pengguna, ekstraksi payload, dan lokalisasi dalam model generatif. Makalah ini memperkenalkan profil informasi untuk mengkuantifikasi seberapa banyak setiap token mengungkapkan tentang sebuah rahasia, menetapkan bahwa deteksi bergantung pada jarak distribusi sementara tugas lain bergantung pada massa informasi.
- Atribusi multi-pengguna untuk N pengguna menelan biaya Θ(log N/h) token atas sumber stasioner-ergodik, dicapai dengan melakukan thresholding kandidat berdasarkan kejutan yang terwujud.
- Ekstraksi payload l-bit memerlukan Θ(l/h) token.
- Jendela Θ(log N)-token ada di mana teks terbukti dibuat oleh mesin tetapi tidak dapat diatribusikan.
- Eksperimen pada GPT-2, Pythia-410M, dan Qwen2.5 memulihkan konstanta yang diprediksi.
Studi ini memberikan hukum laju entropi yang ketat untuk atribusi multi-pengguna dan mengidentifikasi batas-batas fundamental seperti ketidakpastian resolusi jejak dalam desain tanda air.