وثّق مستخدم على منتديات Hugging Face مشكلة متكررة حيث يُظهر ChatGPT "وضع المعارضة"، ويتحدى المدخلات، ويقدم توصيات غير مطلوبة، ويحوّل المهام إلى نقاشات. يلاحظ المستخدم أن الحلول القياسية، مثل أوامر الانحراف (drift prompts)، غير فعالة لأنها تعمل فقط لمدة خمسة رسائل تقريبًا قبل أن ينحرف النموذج عن المهمة الأصلية.
- يتحول ChatGPT إلى وضع المعارضة أثناء البحث، أو تطوير الكود، أو إنشاء العناصر.
- يوازن النموذج الحجج دون سبب ويقدم توصيات تشبه المبيعات وغير مرغوب فيها.
- تفشل أوامر الانحراف بعد خمسة رسائل، مما يؤدي إلى قيام الذكاء الاصطناعي بإنشاء مهام فرعية غير مطلوبة.
يُبرز المنشور مشكلة استخدام مستمرة حيث يمنع سلوك النموذج إكمال المهمة، ويسعى للحصول على نصائح من المجتمع حول كيفية حل هذا التحيز.