L'article propose de déplacer le stockage de la mémoire à l'intérieur de la boucle de raisonnement de l'agent pour créer une « mémoire de travail étendue », arguant que la latence est déterminée par l'emplacement du stockage plutôt que par le motif de récupération. En utilisant un stockage intra-processus qui répond en environ 100 microsecondes, le système évite la latence élevée des stockages réseau qui peut gonfler le temps de bout en bout jusqu'à 83 fois.

  • Les actions redondantes passent de 7,2 sur 12 avec une boucle aller-retour cloud de 110 ms à zéro aux vitesses intra-processus.
  • Le rappel s'améliore de 0/5 à 3,6-4,8/5 sur quatre modèles de classe GPT-5 dans une fenêtre bornée.
  • Le stockage a maintenu une persistance en écriture de 100 % (244 écritures conservées sur 244), tous les manques étant attribués à la politique de lecture de l'agent.
  • L'association du stockage intra-processus avec un petit embedder local réduit le coût dominant de l'embedding, ramenant l'opération complète à environ 40 microsecondes.

Cette approche démontre qu'une disponibilité rapide et constante transforme la mémoire en mémoire de travail étendue, améliorant significativement le rappel et l'efficacité par rapport aux stockages externes traditionnels.