أوقفت أنثروبيك الأنشطة الداخلية المتعلقة بنموذجها القادم، أسترا، لأن التقييمات الأخيرة تشير إلى أنه قد يمتلك قدرات حرجة لأمن السيبرانية بموجب إطار الاستعداد الخاص بالشركة. لا يمكن للشركة استبعاد إمكانية أن يتمكن النموذج من تحديد وتطوير استغلاالات يوم صفر وظيفية في أنظمة العالم الحقيقي المحصنة دون تدخل بشري.
- وصلت أسترا إلى عتبة لا يمكن معها استبعاد القدرات السيبرانية الحرجة بناءً على التقييمات الداخلية والتقييمات الخبيرة.
- تم إيقاف الأنشطة الداخلية المتعلقة بأسترا حتى تفي بمتطلبات التحكم الأمني المعززة.
- تشمل الضوابط الأكثر صرامة بيئات اختبار معزولة، وصولاً مقيداً للشبكة، حماية محسّنة للأوزان، ومراقبة شاملة للعمليات الخطرة.
- تقوم الشركة بتوسيع نطاق اختبارات متانة الضوابط الوقائية وستتعاون مع الوكالات الحكومية ومنظمات سلامة الذكاء الاصطناعي.
تذكر أنثروبيك أن النماذج المتقدمة القادرة على العمليات السيبرانية يجب أن تساعد المدافعين في تحديد الثغرات قبل المهاجمين، بهدف ضمان نشر القدرات الحدودية بمسؤولية.