نشر داريو أمودي مقالاً بعنوان "يجب أن نضبط وتيرة الحدود"، يجادل فيه بضرورة إبطاء معدل تحسّن قدرات الذكاء الاصطناعي للسماح بإجراء أعمال المواءمة والسلامة اللازمة. ويقترح ثلاثة إجراءات، ملتزماً بشكل أحادي الجانب بالأول: اعتماد مقيّمين خارجيين مدمجين.
- التزمت أنثروبيك بمنح وصول مستمر يشبه وصول الموظفين لفريق من المقيّمين المستقلين (مثل METR) للتحقق من ممارسات السلامة وتقييم مواءمة النماذج.
- أيّد الرئيس التنفيذي لـ OpenAI سام ألتمان الاقتراح العام والتزم أيضاً بتنفيذ المقيّمين المدمجين.
- أيّد إيلون ماسك، ودِيميس هاسابيس، والرئيس التنفيذي لـ Microsoft ساتيا ناديلا علناً الدعوة إلى ضبط وتيرة تطوير الذكاء الاصطناعي.
- يسلط المقال الضوء على أن النماذج الداخلية في مختبرات مثل أنثروبيك وOpenAI تتحسّن بسرعة بسبب المراحل المبكرة من التحسين الذاتي المتكرر.
يحذر أمودي من أنه بدون ضبط الوتيرة، قد يسبق تقدم الذكاء الاصطناعي المدعوم بالتحسين الذاتي المتكرر قدرة البشر على التحكم في هذه الأنظمة، مما قد يؤدي إلى سيطرة وكلاء ذكاء اصطناعي خارجين عن السيطرة على الإنترنت.