تسلط مناقشة على موقع Reddit الضوء على أن شروط الامتناع عن الاستخدام لدى OpenAI للمشتركين قد لا تحمي رموز الاستدلال الداخلية، مما يسمح محتملاً للشركة باستخدام هذه البيانات في تدريب النماذج. يدور الجدل حول الغموض فيما إذا كانت هذه الرموز المخفية تُعد "إخراجاً" بموجب اتفاقية الخدمة، نظراً لأن المستخدمين لا يتلقونها مباشرة.
- تحمي سياسات الامتناع للمشتركين عادةً "الإخراج"، لكن رموز الاستدلال غير مرئية للمستخدم.
- تحتوي رموز الاستدلال على نسخ معالجة من مدخلات المستخدم واستجاباته، مما يجعلها قيّمة لتوليد البيانات الاصطناعية.
- بخلاف شروط OpenAI الحالية، لا تشترط اتفاقية Anthropic أن يتلقى المستخدم الإخراج لكي تنطبق حماية الامتناع.
- قد يسمح هذا الثغرة لـ OpenAI بدمج بيانات الاستدلال في مزيج التدريب المسبق أو المتوسط دون انتهاك قيود تحسين التعلم من خلال التغذية الراجعة البشرية (RL).
يُعد هذا التمييز مهماً لأنه يشير إلى أن خيار الامتناع عن التدريب قد يكون غير فعال إذا كانت حالات النموذج الداخلية لا تزال تُستخدم لتحسين الإصدارات المستقبلية.