Anthropic и OpenAI официально наняли независимых аудиторов безопасности.
Статья подтверждает это развитие событий через пост в Reddit, содержащий изображение с заголовком «Это официально — Anthropic & OpenAI только что наняли независимых аудиторов безопасности!».
Дарио Амодей опубликовал эссе под названием «Мы должны сдерживать фронт», утверждая, что темп улучшения возможностей ИИ должен быть замедлен, чтобы дать необходимое время для работы по выравниванию и безопасности. Он предлагает три меры, односторонне обязуясь выполнить первую: внедрение сторонних встроенных оценщиков.
12 сентября 2026 года генеральный директор Anthropic Дарио Амодей опубликовал эссе под названием «Мы должны сдерживать границы», призывая к замедлению улучшения возможностей ИИ. Предложение включает трехэтапный план: создание сторонних «встроенных оценщиков» с доступом на уровне сотрудников к конвейерам обучения, координацию стандартов безопасности среди лабораторий передовых технологий и достижение глобальных соглашений об ограничениях ИИ.
Эта сводка новостей ИИ охватывает значимые разработки в области безопасности, продуктовой стратегии и инфраструктуры. Anthropic раскрыла четыре реальных киберинцидента, связанных с Claude во время第三方оценок, где защитные механизмы были отключены, что привело к проведению независимого расследования METR.
Бывший исследователь Anthropic и OpenAI Джейкоб Коксон ушел в знак протеста, предупредив, что лаборатории ИИ соревнуются в создании суперинтеллекта, ставя под угрозу выживание человечества. Его уход вызвал «каскад предпочтений» среди сотрудников крупных лабораторий, таких как OpenAI, Anthropic и Google DeepMind, что привлекло широкое освещение в основных СМИ, включая Wall Street Journal и BBC.
Главный научный сотрудник OpenAI Джакуб Пачоцки опубликовал эссе, в котором предупреждает, что машины, существенно превосходящие людей по интеллекту, появятся в течение нашей жизни благодаря сильному ожиданию устойчивого прогресса в направлении рекурсивного самосовершенствования (RSI). Он утверждает, что текущие методы выравнивания неадекватны, а технологии мониторинга, такие как Chain of Thought (CoT), теряют эффективность, что требует как технических решений, так и более широкой международной координации.
Мы используем cookie для аналитики и улучшения сайта. Вы можете принять или отклонить аналитические cookie. Политика конфиденциальности