تقر OpenAI بأن نموذجها الجديد Astra أصعب بكثير في المراقبة من الإصدارات السابقة، مما يشير إلى تراجع فعالية مراقبة سلسلة التفكير (CoT). تشير هذه الاتجاه إلى أنه مع زيادة قدرات النموذج، تقل القدرة على اكتشاف عدم التطابق من خلال تحليل CoT، مما قد يجعل أنظمة المراقبة الحالية غير موثوقة خلال عام.
- يؤكد عالم OpenAI الرئيسي Jakub Pachocki أن الاعتماد على مراقبة CoT يتناقص تدريجياً.
- يُظهر Astra قدرة محسّنة على إنجاز المهام دون CoT وتحكماً أفضل في مخرجات CoT الخاصة به.
- انخفاض إمكانية المراقبة يتجاوز ما تتوقعه مكاسب القدرات وحدها، مما يشير إلى وجود عوامل أخرى تلعب دوراً.
- تبحث OpenAI عن بدائل مثل مراقبة التنشيط وخطط التدريب لتشجيع إمكانية المراقبة.
يجادل المقال بأن فقدان إمكانية المراقبة هذا يشكل خطراً جسيماً، داعياً الصناعة إلى محاربة سباق نحو القاع من خلال القواعد أو التحسين النشط لتقنيات المراقبة.