Открытое письмо, подписанное 1224 сотрудниками компаний в области передовых технологий ИИ, включая ключевых фигур из OpenAI и Anthropic, содержит призыв к правительству США поддержать международные усилия по разработке технических и управленческих инструментов, способных целенаправленно регулировать темпы развития автоматизированного ИИ.
Подписанты утверждают, что, хотя ИИ может создать лучшее будущее, существует реальный риск ускорения разработки возможностей за пределы способности человека понимать или контролировать создаваемые системы. В письме подчеркивается, что их запрос отличается от немедленных пауз; вместо этого фокус смещен на подготовку механизмов для будущей координации, чтобы выиграть время для мер безопасности и надзора.
Обе компании, OpenAI и Anthropic, официально поддержали письмо, при этом Anthropic сослалась на недавние исследования в области рекурсивного самосовершенствования как на доказательство необходимости таких инструментов. Инициатива направлена на создание основы для сотрудничества между компаниями и правительствами до того, как автоматизированные исследования ИИ могут ускориться неконтролируемо.