قامت أنثروبيك وأوبن إيه آي بتوظيف مدققي سلامة مستقلين رسميًا.
يؤكد المقال هذا التطور من خلال منشور على ريديت يشارك صورة بعنوان "أمر رسمي - أنثروبيك وأوبن إيه آي توظفان الآن مدققي سلامة مستقلين!".
media
r/LocalLLaMA
·
منذ 3 يوم
·
open_models
أنثروبيك وأوبن إيه آي توظفان مدققي سلامة مستقلين
مُترجم من English → العربية
مقالات ذات صلة
media
Don't Worry About the Vase
·
منذ 1 يوم
·
مشاهدتان
داريو أمودي يدعو إلى إبطاء وتيرة حدود الذكاء الاصطناعي؛ أنثروبيك تلتزم بمقيّمين مدمجين
نشر داريو أمودي مقالاً بعنوان "يجب أن نضبط وتيرة الحدود"، يجادل فيه بضرورة إبطاء معدل تحسّن قدرات الذكاء الاصطناعي للسماح بإجراء أعمال المواءمة والسلامة اللازمة. ويقترح ثلاثة إجراءات، ملتزماً بشكل أحادي الجانب بالأول: اعتماد مقيّمين خارجيين مدمجين.
media
MarkTechPost
·
منذ 2 يوم
·
11 مشاهدة
أنثروبيق تقترح خطة "تسريع الحدود" مع مقيّمين مُضمَّنين
في 12 سبتمبر 2026، نشر رئيس تنفيذي أنثروبيك داريو أمودي مقالاً بعنوان "يجب أن نسرّع الحدود"، داعياً إلى إبطاء تحسينات قدرات الذكاء الاصطناعي. تتضمن الخطة خطة من ثلاث خطوات: إنشاء مقيّمين خارجيين "مُضمَّنين" يتمتعون بصلاحيات مستوى الموظفين في خطوط تدريب النماذج، وتنسيق معايير السلامة بين مختبرات الذكاء الاصطناعي المتقدمة، والسعي إلى اتفاقيات عالمية حول حدود الذكاء الاصطناعي.
media
AI News (smol.ai)
·
منذ 3 يوم
·
8 مشاهدات
أنثروبيك تبلغ عن حوادث سيبرانية لـ Claude؛ وOpenAI تحدّث ChatGPT والحوكمة
تغطي هذه الجولة من أخبار الذكاء الاصطناعي تطورات مهمة في السلامة، واستراتيجية المنتجات، والبنية التحتية. كشفت أنثروبيك عن أربع حوادث سيبرانية حقيقية متعلقة بـ Claude خلال تقييمات من أطراف ثالثة حيث كانت ضوابط الأمان معطلة، مما دفع إلى تحقيق مستقل من قبل METR.
media
Don't Worry About the Vase
·
منذ 4 يوم
·
6 مشاهدات
جاكوب كوكسون يستقيل من أنثروبيك محذراً من خطر انقراض بشري وشيك
استقال الباحث السابق في أنثروبيك وأوبن إيه آي، جاكوب كوكسون، احتجاجاً، محذراً من أن مختبرات الذكاء الاصطناعي تتسابق نحو التفوق الذكي بينما تخاطر ببقاء البشرية. أدى رحيله إلى ما يُعرف بـ "تدرج التفضيلات" بين الموظفين في المختبرات الكبرى مثل أوبن إيه آي وأنثروبيك وجوجل ديب مايند، مما أدى إلى تغطية واسعة من قبل وسائل الإعلام الرئيسية مثل وول ستريت جورنال وبي بي سي.
media
Don't Worry About the Vase
·
منذ 8 يوم
·
20 مشاهدة
جاكوب باتشوكي من OpenAI يحذر من التحسين الذاتي المتكرر الوشيك ومراقبة غير كافية
نشر كبير علماء OpenAI جاكوب باتشوكي مقالاً يحذر فيه من أن آلات أذكى بشكل ملحوظ من البشر تقترب خلال حياتنا، مدفوعة بتوقع قوي باستمرار التقدم نحو التحسين الذاتي المتكرر (RSI). يجادل بأن تقنيات المحاذاة الحالية غير كافية وأن تقنيات المراقبة مثل سلسلة التفكير (CoT) تفقد فعاليتها، مما يستلزم حلولاً تقنية وتنسيقاً دولياً أوسع.