एक नया पेपर प्रदर्शित करता है कि क्लॉड, जीपीटी और जेमिनी जैसे फ्रंटियर मॉडल्स से एन्क्रिप्टेड तर्क ब्लॉक्स को डीकोड और रीप्ले किया जा सकता है ताकि छिपी हुई चेन-ऑफ़-थॉट डेटा निकाला जा सके। लेखकों ने दिखाया कि कैसे इन साइन किए गए ब्लॉब्स को कमजोर मॉडल्स या अलग सेशन में स्थानांतरित करके आधारभूत विचारों को ट्रांसक्राइब किया जा सकता है, जिससे प्रदाताओं की ओबफ़स्केशन प्रयासों को प्रभावी ढंग से पार किया जाता है।
- लगभग 7,000 सार्वजनिक ट्रेस का स्कैन संवेदनशील लीक डेटा दिखाता है, जिसमें 62 अद्वितीय एपीआई कुंजियाँ, 33 ईमेल पते और केवल तर्क ब्लॉक्स में छिपी हुई 33 पासवर्ड शामिल हैं।
- इस तकनीक में एक वैध एन्क्रिप्टेड ब्लॉक प्राप्त करना, उसे उसी प्रदाता से किसी अन्य अनुरोध या कमजोर मॉडल में रीप्ले करना, और संलग्न तर्क को ट्रांसक्राइब करने के लिए विशिष्ट प्रॉम्प्स का उपयोग करना शामिल है।
- क्लॉड (Haiku 4.5 में रीप्ले), जीपीटी (चंक किए गए निरंतरताओं के साथ एन्क्रिप्टेड सामग्री इंजेक्ट करना), और जेमिनी (विचार साइनैचर्स संलग्न करना) के लिए विशिष्ट विधियों का विस्तार से वर्णन किया गया है।
- यह कमजोरी महत्वपूर्ण गोपनीयता चिंताओं को बढ़ाती है, क्योंकि साझा किए गए ट्रेस व्यक्तिगत डेटा लीक कर सकते हैं, और डीकोड किए गए विचारों के संक्षिप्त या खंडित प्रकृति के कारण अलाइनमेंट मॉनिटरिंग को जटिल बनाते हैं।
पेपर को जिम्मेदारी से披露 किया गया था, और कई कमजोरियाँ पहले ही ठीक कर दी गई हैं, लेकिन निष्कर्ष यह उजागर करते हैं कि फ्रंटियर लैब आंतरिक तर्क प्रक्रियाओं को कैसे संभालती और सुरक्षित करती है, इसमें स्थिर जोखिम बने हुए हैं।