Исследователи предлагают TokenWall, фреймворк защиты во время выполнения, предназначенный для обеспечения безопасности персистентных ИИ-агентов путем действия как семантический файрвол над потоками токенов естественного языка. Система выполняет аудит семантики с учетом границ при обновлениях памяти, аргументах инструментов и межкомпонентных коммуникациях, чтобы перехватывать небезопасное поведение до того, как оно достигнет привилегированных точек выполнения во время работы.
- Формирует структурированные записи аудита «источник-сток» для полного покрытия медиации до выполнения.
- Применяет легковесную локальную инспекцию перед выполнением для уменьшения удаленной арбитрации и задержки.
- Селективно эскалирует неоднозначные случаи высокого риска в более сильные модули арбитрации.
- Снижает успешность атак до 12.5% на CIK-Bench, сохраняя уровень прохождения безвредных исполняемых файлов на уровне 97.4%.
- Добавляет лишь 0.69 секунды дополнительной задержки для безвредных случаев.
TokenWall демонстрирует, что семантическое ограничение во время выполнения может обеспечить практический компромисс между безопасностью и полезностью для долгоживущих программных систем, предотвращая распространение небезопасного контента через персистентное состояние и взаимодействия, опосредованные инструментами.