Les chercheurs présentent MemCon, un cadre qui modélise les opérations de mémoire comme un processus décisionnel markovien pour apprendre une politique en ligne pour la récupération et la consolidation adaptatives dans les agents LLM. Contrairement aux heuristiques statiques, cette approche décide dynamiquement quand et combien récupérer en fonction du contexte.

  • MemCon enveloppe n'importe quelle implémentation de mémoire existante et apprend à partir d'un retour binaire tâche par tâche sans pré-entraînement ni appels LLM supplémentaires.
  • Il utilise un bandit contextuel tabulaire léger avec exploration UCB qui converge en quelques dizaines de tâches.
  • Sur 6 benchmarks, 3 frameworks d'agents et 3 backbones LLM, MemCon surpasse les bases par jusqu'à 15.2 points en réussite de tâche.
  • La méthode réduit la consommation de tokens de 5--20% tout en améliorant les performances.

MemCon résout le goulot d'étranglement de l'accès mémoire fixe en permettant aux agents de gérer de manière adaptative l'accumulation d'expérience et la réutilisation des plans.