Anthropic और OpenAI ने आधिकारिक तौर पर स्वतंत्र सुरक्षा ऑडिटरों को नियुक्त किया है।
लेख ने एक Reddit पोस्ट के माध्यम से इस विकास की पुष्टि की, जिसमें "यह आधिकारिक है - Anthropic & OpenAI ने अभी-अभी स्वतंत्र सुरक्षा ऑडिटरों को नियुक्त किया है!" शीर्षक वाली एक छवि साझा की गई है।
दरियो अमोदेई ने "हमें मोर्चे की गति नियंत्रित करनी चाहिए" शीर्षक से एक निबंध प्रकाशित किया, जिसमें तर्क दिया गया कि एआई क्षमता में सुधार की दर को आवश्यक संरेखण और सुरक्षा कार्य के लिए धीमा करना आवश्यक है। उन्होंने तीन उपायों का प्रस्ताव रखा, जिनमें से पहले पर एकपक्षीय रूप से प्रतिबद्ध हुए: एम्बेडेड तृतीय पक्ष मूल्यांकनकर्ताओं को अपनाना।
12 सितंबर 2026 को, एन्थ्रोपिक के सीईओ डारियो अमोदेई ने 'हमें फ्रंटियर को गति देना चाहिए' शीर्षक से एक निबंध प्रकाशित किया, जिसमें AI क्षमता में सुधार की गति रोकने का आह्वान किया गया। इस प्रस्ताव में तीन-चरणों वाली योजना शामिल है: ट्रेनिंग पाइपलाइन तक कर्मचारी-स्तर की पहुँल वाले तृतीय-पक्ष 'एम्बेडेड इवैल्यूएटर्स' स्थापित करना, फ्रंटियर लैब्स के बीच सुरक्षा मानकों का समन्वय करना, और AI सीमाओं पर वैश्विक समझौतों की ओर बढ़ना।
यह AI समाचार समीक्षा सुरक्षा, उत्पाद रणनीति और बुनियादी ढांचे में महत्वपूर्ण विकास को कवर करती है। Anthropic ने METR द्वारा स्वतंत्र जांच का कारण बनते हुए, जहाँ सुरक्षा उपाय अक्षम थे, के दौरान क्लॉड से जुड़े चार वास्तविक साइबर घटनाओं की घोषणा की।
पूर्व Anthropic और OpenAI शोधकर्ता जेकॉब कॉक्सन ने विरोध प्रदर्शन के रूप में इस्तीफा दिया, चेतावनी दी कि AI लैब्स सुपरइंटेलिजेंस की ओर भाग रही हैं जबकि मानव अस्तित्व को जोखिम में डाल रही हैं। उनके जाने से OpenAI, Anthropic और Google DeepMind जैसे प्रमुख लैब्स के कर्मचारियों में एक "प्राथमिकता कैस्केड" हुआ, जिससे वॉल स्ट्रीट जर्नल और BBC जैसे मुख्यधारा के मीडिया आउलेट्स द्वारा व्यापक कवरेज मिला।
ओपनएआई के मुख्य वैज्ञानिक ज़कुब पचॉकी ने एक निबंध प्रकाशित किया है जिसमें चेतावनी दी गई है कि मशीनें मानवों से महत्वपूर्ण रूप से अधिक बुद्धिमान होकर हमारी जीवनकाल में आ रही हैं, जो पुनरावर्ती स्व-सुधार (RSI) की दिशा में निरंतर प्रगति के प्रति एक मजबूत अपेक्षा द्वारा संचालित है। वह तर्क देते हैं कि वर्तमान एलाइनमेंट तकनीकें अपर्याप्त हैं और चेन ऑफ थॉट (CoT) जैसी निगरानी तकनीकें अपनी प्रभावकारिता खो रही हैं, जिसके परिणामस्वरूप तकनीकी समाधानों और व्यापक अंतर्राष्ट्रीय समन्वय दोनों की आवश्यकता है।
हम ट्रैफ़िक मापने और साइट को बेहतर बनाने के लिए कुकीज़ का उपयोग करते हैं। आप एनालिटिक्स कुकीज़ स्वीकार या अस्वीकार कर सकते हैं। गोपनीयता नीति