Sebuah makalah baru menunjukkan bahwa blok penalaran terenkripsi dari model mutakhir seperti Claude, GPT, dan Gemini dapat diuraikan dan diputar ulang untuk mengekstrak data rantai-pemikiran yang tersembunyi. Penulis menunjukkan bagaimana blob bertanda tangan ini dapat ditransfer ke model yang lebih lemah atau sesi berbeda untuk mentranskripsikan pemikiran mendasar, secara efektif menghindari upaya pengaburan dari penyedia.
- Pemindaian terhadap sekitar 7.000 jejak publik mengungkapkan data sensitif yang bocor, termasuk 62 kunci API unik, 33 alamat email, dan 33 kata sandi yang tersembunyi secara eksklusif dalam blok penalaran.
- Teknik ini melibatkan memperoleh blok terenkripsi yang sah, memutarnya ulang ke permintaan berbeda atau model yang lebih lemah dari penyedia yang sama, dan menggunakan prompt tertentu untuk memaksa transkripsi penalaran yang dilampirkan.
- Metode spesifik telah diuraikan untuk Claude (memutar ulang ke Haiku 4.5), GPT (menyuntikkan konten terenkripsi dengan kelanjutan terfragmentasi), dan Gemini (melampirkan tanda tangan pemikiran).
- Kerentanan ini menimbulkan keprihatinan privasi yang signifikan, karena jejak bersama dapat membocorkan data pribadi, dan mempersulit pemantauan penyesuaian akibat sifat pemikiran yang diuraikan yang ringkas atau terfragmentasi.
Makalah tersebut telah dilaporkan secara bertanggung jawab, dan beberapa kerentanan telah diperbaiki, tetapi temuan ini menyoroti risiko berkelanjutan dalam cara lab mutakhir menangani dan melindungi proses penalaran internal.