Les chercheurs proposent TokenWall, un cadre de défense en temps réel conçu pour sécuriser les agents IA persistants en agissant comme un pare-feu sémantique sur les flux de jetons en langage naturel. Le système effectue une auditage sémantique conscient des limites sur les mises à jour de mémoire, les arguments d'outils et les communications inter-composants afin d'intercepter les comportements dangereux avant qu'ils n'atteignent les puits d'exécution privilégiés.
- Construit des enregistrements d'audit source-puits structurés pour une médiation pré-exécution à couverture complète.
- Applique une inspection locale légère avant l'exécution pour réduire l'arbitrage distant et la latence.
- Éléve sélectivement les cas ambigus à haut risque vers des modules d'arbitrage plus puissants.
- Réduit le taux de réussite des attaques à 12,5 % sur CIK-Bench tout en maintenant un taux de passage exécutable bénin de 97,4 %.
- Ajoute seulement 0,69 seconde de latence supplémentaire pour les cas bénins.
TokenWall démontre que le confinement sémantique en temps réel peut atteindre un compromis pratique entre sécurité et utilité pour les systèmes logiciels à longue durée de vie en empêchant la propagation de contenu dangereux via l'état persistant et les interactions médiées par des outils.