दरियो अमोदेई ने "हमें मोर्चे की गति नियंत्रित करनी चाहिए" शीर्षक से एक निबंध प्रकाशित किया, जिसमें तर्क दिया गया कि एआई क्षमता में सुधार की दर को आवश्यक संरेखण और सुरक्षा कार्य के लिए धीमा करना आवश्यक है। उन्होंने तीन उपायों का प्रस्ताव रखा, जिनमें से पहले पर एकपक्षीय रूप से प्रतिबद्ध हुए: एम्बेडेड तृतीय पक्ष मूल्यांकनकर्ताओं को अपनाना।
- एंथ्रोपिक ने स्वतंत्र मूल्यांकनकर्ताओं की एक टीम (जैसे METR) को निरंतर, कर्मचारी-समान पहुंच प्रदान करने के लिए प्रतिबद्धता जताई है ताकि सुरक्षा अभ्यासों की पुष्टि और मॉडल संरेखण का आकलन किया जा सके।
- OpenAI के सीईओ सम अल्टमैन ने समग्र प्रस्ताव का समर्थन किया और एम्बेडेड मूल्यांकनकर्ताओं को लागू करने के लिए भी प्रतिबद्ध हुए।
- एलोन मस्क, डेमिस हासबिस और Microsoft के सीईओ सत्य नाडेला ने एआई विकास की गति नियंत्रित करने के आह्वान का सार्वजनिक रूप से समर्थन किया है।
- निबंध में यह उजागर किया गया है कि एंथ्रोपिक और OpenAI जैसे लैब्स में आंतरिक मॉडल पुनरावर्ती स्वयं-सुधार के प्रारंभिक चरणों के कारण तेजी से सुधर रहे हैं।
अमोदेई चेतावनी देते हैं कि गति नियंत्रण के बिना, पुनरावर्ती स्वयं-सुधार द्वारा संचालित एआई प्रगति मनुष्यों की इन प्रणालियों पर नियंत्रण रखने की क्षमता से आगे निकल सकती है, जिससे संभावित रूप से अवैध एजीएजेंट्स इंटरनेट पर कब्जा कर सकते हैं।