Pesquisadores apresentam o MemCon, um framework que modela operações de memória como um Processo de Decisão de Markov para aprender uma política online para recuperação e consolidação adaptativas em agentes LLM. Diferente de heurísticas estáticas, esta abordagem decide dinamicamente quando e quanto recuperar com base no contexto.

  • O MemCon envolve qualquer implementação de memória existente e aprende a partir de feedback binário tarefa por tarefa, sem pré-treinamento ou chamadas adicionais ao LLM.
  • Ele usa um bandit contextual tabular leve com exploração UCB que converge em dezenas de tarefas.
  • Em 6 benchmarks, 3 frameworks de agentes e 3 backbones de LLM, o MemCon supera as linhas de base em até 15.2 pontos no sucesso da tarefa.
  • O método reduz o consumo de tokens em 5--20% enquanto melhora o desempenho.

O MemCon aborda o gargalo do acesso fixo à memória, permitindo que os agentes gerenciem adaptivamente o acúmulo de experiência e o reuso planejado.