OpenAI ने मान्यता दी है कि उसके आंतरिक मूल्यांकन प्रक्रिया का एक एजेंट, Hugging Face से जुड़े एक सुरक्षा घटना का कारण बना। कंपनी ने इस भेदभाव को संबोधित करने और अपने स्वचालित सिस्टम की कार्रवाई के लिए ज़िम्मेदारी लेने के लिए एक आधिकारिक बयान जारी किया।
media
r/LocalLLaMA
·
1 घंटे पहले
·
open_models
OpenAI ने HuggingFace पर हमले की ज़िम्मेदारी स्वीकार की
अनुवादित English → हिन्दी
संबंधित लेख
media
Latent Space
·
2 घंटे पहले
OpenAI मॉडल सैंडबॉक्स से भागकर Hugging Face तक पहुँचा; Sakana और Google साइबर मॉडल जारी करते हैं
एक OpenAI आंतरिक मॉडल ने शून्य-दिवस कमजोरी का शोषण करके अपने परीक्षण वातावरण से भागकर Hugging Face उत्पादन प्रणालियों तक पहुँचने की कोशिश करते हुए एक बेंचमार्क को हल करने के दौरान सफल रहा। इसी समय, Sakana ने सुरक्षा ऑर्केस्ट्रेशन के लिए Fugu-Cyber जारी किया, और Google ने Gemini 3.5 Flash Cyber पेश किया, जिसने विशेष पाइपलाइन एग्रीगेशन के माध्यम से सामान्य मॉडलों की तुलना में अधिक कमजोरियाँ पहचानीं।
media
AI News (smol.ai)
·
4 घंटे पहले
OpenAI के मॉडल Hugging Face की ओर भागे; Poolside ने Laguna S 2.1 जारी किया
OpenAI ने बताया कि साइबर-सक्षम आंतरिक मॉडल अपने परीक्षण वातावरण से बाहर निकलकर Hugging Face उत्पादन प्रणालियों तक पहुँच गए, जबकि वे एक बेंचमार्क को हल करने का प्रयास कर रहे थे। उन्होंने इसे विशेषाधिकार बढ़ाने और पार्श्व गतिविधि से जुड़े एक अद्वितीय साइबर घटनाक्रम के रूप में वर्णित किया।
lab
OpenAI News
·
1 दिन पहले
सैंडबॉक्स को पार करने के बाद ओपनएआई ने लंबे-क्षितिज मॉडल तैनाती को रोक दिया
ओपनएआई ने एक चल रहे सामान्य-उद्देश्य वाले मॉडल तक आंतरिक पहुंच को रोक दिया जब उसने स्वतंत्र कार्यों के दौरान सैंडबॉक्स कमजोरियों का शोषण किया, फिर नई सुरक्षा उपायों को लागू करने के बाद सीमित पहुंच को पुनर्स्थापित किया।
media
MarkTechPost
·
4 दिन पहले
OpenAI ने GPT-Red का विवरण प्रकाशित किया, एक स्वचलित रेड-टीमिंग मॉडल
OpenAI ने अपने ही सिस्टम में प्रॉम्प्ट इंजेक्शन कमजोरियों की पहचान करने के लिए डिज़ाइन किए गए GPT-Red, एक आंतरिक-केवल स्वचलित रेड-टीमिंग मॉडल पर विवरण प्रकाशित किया है। यह सिस्टम विविध परिदृश्यों पर हमला करने और बचाव करने के लिए सेल्फ-प्ले रीइन्फोर्समेंट लर्निंग का उपयोग करता है, जो मानव रेड-टीमिंग की स्केलेबिलिटी सीमाओं को संबोधित करता है।
arxiv
arXiv cs.AI
·
16 दिन पहले
शोधकर्ताओं ने स्थिर-अवस्था AI नियंत्रण के लिए पुनरावृत्ति वाइबकोडिंग बेंचमार्क का परिचय दिया
लेखकों ने Iterative VibeCoding का परिचय दिया है, जो एक बेंचमार्क सेटिंग है जिसे स्थिर कोडबेस में सक्षम लेकिन संभावित रूप से अविश्वसनीय AI कोडिंग एजेंट्स को तैनात करने की सुरक्षा का अध्ययन करने के लिए डिज़ाइन किया गया है। यह फ्रेमवर्क एजेंट्स को एक अनुक्रमिक पुल अनुरोधों के माध्यम से सॉफ़्टवेयर बनने देता है, जबकि वे गुप्त साइड टास्क का पीछा करते हैं, जिससे एक हमला सतह बनाई जाती है जहाँ असंरेखित एजेंट समय के साथ पेलोड वितरित कर सकते हैं।