Karya ini menyajikan Dual-Embedding Watermarking (DEW), sebuah skema watermarking semantik untuk model bahasa besar yang memanfaatkan embedding kontekstual dan tingkat token untuk meningkatkan ketahanan terhadap parafrase dan terjemahan. DEW memanfaatkan metodologi pemrosesan sinyal, menerapkan operasi ruang vektor aljabar untuk menurunkan sinyal watermark yang terdegradasi secara bertahap di bawah pergeseran semantik.
- Metode ini mengaburkan watermark dengan memproyeksikan vektor embedding melalui matriks pseudo-acak yang disemai dengan kunci rahasia.
- Distribusi relevan yang diturunkan dari aljabar dasar dievaluasi dan digunakan untuk pengujian statistik dan benchmarking DEW.
- Hasil eksperimental di berbagai LLM menunjukkan bahwa DEW meningkatkan deteksi pasca-parafrase sambil mempertahankan kualitas teks yang kompetitif.
- Watermark tetap terdeteksi setelah terjemahan, bahkan ketika watermark semantik sebelumnya terdegradasi secara signifikan.
Temuan ini menempatkan DEW sebagai solusi praktis dan robust untuk melindungi teks yang dihasilkan oleh LLM serta mengatasi isu kritis dalam penerapan AI yang bertanggung jawab.