Автор выпустил Execution Governance AI (EGA) V9, фреймворк с открытым исходным кодом для среды выполнения, предназначенный для детерминированного управления действиями автономных ИИ-агентов до их исполнения. Вместо замены существующих LLM или фреймворков агентов, EGA V9 добавляет отдельный слой, который проверяет рабочие процессы, оценивает состояния доверия и инициирует изоляцию с закрытым отказом при нарушении заранее определённых условий управления.
- Реализация и методология публично доступны на GitHub и Zenodo.
- В отчётной оценке в рамках конкретных моделей угроз и экспериментальных условий система обнаружила 100% внедрённых атак при 0% ложных срабатываний и 0% пропусков.
- Автор явно отмечает, что эти результаты применимы только к определённому объёму задач и не претендуют на универсальную защиту от всех атак автономных агентов.
- Пост приглашает сообщество попытаться нарушить границу управления выполнением посредством воспроизведения, состязательного тестирования и критики реализации.
Фреймворк направлен на решение проблемы поддержания надёжного исполнения во время выполнения для агентов, вызывающих инструменты и API, без ущерба для производительности или операционных затрат.