OpenAI предлагает программу грантов на сумму 5 миллионов долларов для поддержки независимых исследований влияния генеративного ИИ на развитие, благополучие и безопасность подростков.
Инициатива приглашает исследователей подавать заявки на изучение того, как технологии генеративного ИИ влияют на подростков.
OpenAI заявляет, что её новая модель, GPT-6 Astra, является самой интеллектуальной и выровненной среди доступных в мире, хотя критики ставят под сомнение определение выравнивания и серьёзность проблем с мониторингом. В статье отмечается, что обучение Astra началось 1 сентября и завершилось к 5 сентября, при этом за этот короткий промежуток времени была сформирована рой из 10 000 одновременных агентов.
OpenAI опубликовала пост в блоге, утверждая, что её внутренние агенты решили проблему существования и гладкости решений уравнений Навье–Стокса, одну из семи задач тысячелетия. Решение было достигнуто примерно через 88 часов после того, как команда начала работу над этой задачей 1 сентября, после слухов о том, что математики Тристан Бакмастер и Левент Альпёге также нашли решение.
OpenAI признает, что её новая модель Astra значительно сложнее контролировать, чем предыдущие итерации, что указывает на снижение эффективности мониторинга с использованием цепочки рассуждений (CoT). Эта тенденция предполагает, что по мере роста возможностей моделей способность обнаруживать несоответствие через анализ CoT снижается, что может сделать текущие системы мониторинга ненадежными в течение года.
Главный научный сотрудник OpenAI Джакуб Пачоцки опубликовал эссе, в котором предупреждает, что машины, существенно превосходящие людей по интеллекту, появятся в течение нашей жизни благодаря сильному ожиданию устойчивого прогресса в направлении рекурсивного самосовершенствования (RSI). Он утверждает, что текущие методы выравнивания неадекватны, а технологии мониторинга, такие как Chain of Thought (CoT), теряют эффективность, что требует как технических решений, так и более широкой международной координации.
Anthropic's Claude успешно создал первое полное компьютерно-верифицированное доказательство последней теоремы Ферма за 11 дней с использованием Lean, в то время как OpenAI объявила о планах разработать автоматизированного ИИ-исследователя к марту 2028 года.
Мы используем cookie для аналитики и улучшения сайта. Вы можете принять или отклонить аналитические cookie. Политика конфиденциальности