В этой статье утверждается, что агенты ИИ часто выполняют действия на основе неполных инструкций, догадываясь о недостающей информации; эта проблема называется «сбоем подтверждения до выполнения». Предлагается структура с принудительным выполнением во время выполнения, требующая проверки известных и неизвестных данных перед любым действием.
- Основная проблема заключается не в правиле «если сомневаешься, спроси», а в отсутствии структурного контроля, предотвращающего заполнение пробелов ИИ.
- Сбои уровня 1 включают догадки ИИ и заполнение пробелов, тогда как сбои уровня 3 возникают, когда действия не могут быть подтверждены словами пользователя.
- Предложение включает механизм из 12 слайдов, предназначенный для поставщиков ИИ и разработчиков платформ агентов для внедрения проверок перед выполнением.
- Этот подход направлен на предотвращение создания аварий агентами путем принуждения их к паузе и проверке условий перед выполнением.
Авторы считают это важным, потому что оно переносит ответственность за проверку с намерения на структуру, гарантируя, что ИИ не будет выполнять действия, когда необходимая информация не проверена.