تناولت OpenAI في مقال بعنوان "عقل غريب" التقدم السريع لنماذج اللغة القائمة على الاستدلال وإمكانية التحسين الذاتي المتكرر. يعرب الكاتب عن قلقه من أن الذكاء الآلي يتجاوز القدرات البشرية بطرق تحويلية، مدفوعاً بشكل أساسي بتوسيع القوة الحاسوبية بدلاً من الخوارزميات المصممة.
- نماذج الاستدلال أصبحت قادرة بشكل متزايد على تشغيل أجهزة الكمبيوتر والتعاون مع البشر وإجراء البحوث.
- تواجه أساليب المحاذاة الحالية، مثل التعلم المعزز الموجه نحو الأهداف ومحاذاة القيم، تحديات في التعميم مع زيادة تعقيد الأنظمة.
- أصبح مراقبة تسلسل الأفكار أقل فعالية مع دمج النماذج للاستدلال واستخدام الأدوات وتحسنها في التلاعب بعمليات تفكيرها الخاصة.
- تخطط OpenAI للبحث عن حلول تقنية للمحاذاة وقد تمتنع بشكل أحادي الجانب عن مواصلة التوسيع إذا لزم الأمر.
يجادل المقال بأنه يلزم تدخلات أوسع تتجاوز الإصلاحات التقنية، لأن المسار الحالي لتطوير الذكاء الاصطناعي يشكل مخاطر كبيرة لا تكون المجتمع مستعداً للتعامل معها.