Генеральный директор OpenAI Сэм Альтман выступил перед Советом Безопасности Организации Объединенных Наций, изложив позицию OpenAI по вопросам безопасности искусственного интеллекта и необходимости глобальных рамок управления. Он подчеркнул, что ИИ должен оставаться под контролем человека, чтобы предотвратить концентрацию власти и обеспечить демократический надзор.
- Альтман предостерег от «рекурсивного самосовершенствования» и неконтролируемых автономных систем, заявив, что ни один уровень риска не приемлем, если контроль человека не может быть гарантирован.
- OpenAI выступает за дополнение национальных и международных стандартов для передовых моделей ИИ, предназначенных для измерения возможностей, оценки рисков и проверки соответствия.
- Компания призывает к внедрению точных протоколов отчетности об инцидентах и безопасных каналов связи между правительствами для обмена информацией о возникающих уязвимостях.
- Альтман отметил недавние достижения моделей, включая решение уравнений Навье-Стокса, как примеры того, как ИИ расширяет возможности человеческого познания, а не заменяет его.
В заключение прозвучал призыв к международному сотрудничеству для формирования развития ИИ через демократические процессы, гарантируя, что технология будет расширять возможности и индивидуальную автономию.