نشر كبير علماء OpenAI جاكوب باتشوكي مقالاً يحذر فيه من أن آلات أذكى بشكل ملحوظ من البشر تقترب خلال حياتنا، مدفوعة بتوقع قوي باستمرار التقدم نحو التحسين الذاتي المتكرر (RSI). يجادل بأن تقنيات المحاذاة الحالية غير كافية وأن تقنيات المراقبة مثل سلسلة التفكير (CoT) تفقد فعاليتها، مما يستلزم حلولاً تقنية وتنسيقاً دولياً أوسع.
- يذكر باتشوكي أن النتائج الداخلية من مشروع "RLSlow" في منتصف عام 2023 أعطت الثقة الأولى في توسيع نماذج الاستدلال، لكنها كشفت أيضاً عن الواقع المثير للقلق بشأن اقترابنا من الذكاء الفائق.
- يتوقع حدوث RSI خلال بضع سنوات إذا استمر تطوير الذكاء الاصطناعي على مساره الحالي، مع زيادة قدرة الأنظمة على قيادة تطويرها الذاتي.
- ستقوم OpenAI بشكل أحادي بوقف المزيد من التوسيع حسب الحاجة وتستثمر بكثافة في كل من التعلم المعزز الموجه نحو الأهداف والتعميم من بيانات التدريب المسبق للمحاذاة.
- يميز المقال بين محاذاة الأهداف (إنجاز الأهداف المحددة) ومحاذاة القيم (تعميم المبادئ البشرية)، محدداً الأخير كمشكلة جوهرية تتطلب اهتماماً عاجلاً.
- يحذر باتشوكي من أن الذكاء الاصطناعي لا يحتاج إلى تفوق جميع القدرات البشرية ليكون خطيراً، بل يكفي أن يصبح ذا صلة بالعالم الحقيقي، مما يجعل فهم قدراته الحقيقية أكثر صعوبة بشكل متزايد.
يستنتج باتشوكي أنه يلزم الحذر الشديد لأن أحداً ليس مستعداً حالياً لعواقب النمو السريع للذكاء الآلي، ويدعو إلى مزيج من إبطاء طوعي وتنسيق وتيرة الاستثمار المستمر في أبحاث المحاذاة.