Pesquisadores propõem o TokenWall, um framework de defesa em tempo de execução projetado para proteger agentes de IA persistentes atuando como um firewall semântico sobre fluxos de tokens de linguagem natural. O sistema realiza auditoria semântica consciente dos limites nas atualizações de memória, argumentos de ferramentas e comunicações entre componentes para interceptar comportamentos inseguros antes que eles alcancem sumidouros privilegiados em tempo de execução.
- Constrói registros de auditoria fonte-sumidouro estruturados para mediação pré-execução com cobertura completa.
- Aplica inspeção local leve antes da execução para reduzir arbitragem remota e latência.
- Escala seletivamente casos ambíguos de alto risco para módulos de arbitragem mais fortes.
- Reduz a taxa de sucesso do ataque para 12.5% no CIK-Bench enquanto mantém uma taxa de passagem executável benigno de 97.4%.
- Adiciona apenas 0.69 segundos de latência adicional para casos benignos.
O TokenWall demonstra que o conteúdo semântico em tempo de execução pode alcançar um equilíbrio prático entre segurança e utilidade para sistemas de software de longa duração, impedindo a propagação de conteúdo inseguro através do estado persistente e interações mediadas por ferramentas.