OpenAI menerapkan pendekatan bertahap untuk provenance teks sebagai respons terhadap UU AI UE, dengan menambahkan watermark tak terlihat ke output ChatGPT dan Codex yang memenuhi syarat di Uni Eropa sambil menawarkan opsi opt-in bagi pelanggan API global. Perusahaan merilis teknologi textGrain-nya, yang menambahkan sinyal statistik pada pilihan kata, bersama dengan akses terbatas ke detektor untuk peneliti yang disetujui.
- Penandaan teks dimatikan secara default secara global tetapi akan ditambahkan secara tak terlihat kepada pengguna ChatGPT dan Codex UE dalam beberapa minggu mendatang.
- Pelanggan API global dapat memilih untuk menerima output berwatermark untuk model tertentu mulai hari ini.
- Detektor textGrain awalnya hanya tersedia bagi peneliti yang disetujui dan organisasi ahli untuk mengevaluasi keandalan.
- Evaluasi menunjukkan tingkat deteksi turun secara signifikan saat diedit, seperti penggantian sinonim yang mengurangi deteksi dari 92% menjadi 66% untuk perubahan kata sebesar 10%.
- Watermark tidak mengukur kontribusi manusia, menetapkan kepemilikan, mengidentifikasi pengguna, atau memverifikasi akurasi.
OpenAI menekankan bahwa teknologi penandaan saat ini memiliki keterbatasan terkait pengeditan dan terjemahan, sehingga memerlukan peluncuran hati-hati yang berfokus pada transparansi mengenai apa yang dapat dan tidak dapat dibuktikan oleh sinyal-sinyal tersebut.