Los investigadores presentan MemCon, un marco que modela las operaciones de memoria como un Proceso de Decisión de Markov para aprender una política en línea para la recuperación y consolidación adaptativas en agentes LLM. A diferencia de las heurísticas estáticas, este enfoque decide dinámicamente cuándo y cuánto recuperar según el contexto.

  • MemCon envuelve cualquier implementación de memoria existente y aprende del feedback binario tarea por tarea sin preentrenamiento ni llamadas adicionales a LLM.
  • Utiliza un bandit contextual tabular ligero con exploración UCB que converge en decenas de tareas.
  • En 6 benchmarks, 3 marcos de agentes y 3 backbones de LLM, MemCon supera a las líneas base hasta en 15.2 puntos en éxito de tarea.
  • El método reduce el consumo de tokens entre un 5--20% mientras mejora el rendimiento.

MemCon aborda el cuello de botella del acceso fijo a la memoria permitiendo que los agentes gestionen adaptivamente la acumulación de experiencia y la reutilización planificada.