O artigo propõe mover o armazenamento de memória para dentro do loop de raciocínio do agente para criar uma "memória de trabalho estendida", argumentando que a latência é determinada pela localização do armazenamento, e não pelo padrão de recuperação. Ao usar um armazenamento dentro do processo que responde em aproximadamente 100 microssegundos, o sistema evita a alta latência dos armazenamentos em rede, que podem inflar o tempo de ponta a ponta em até 83 vezes.
- Ações redundantes caem de 7,2 de cada 12 com uma ida e volta à nuvem de 110ms para zero nas velocidades dentro do processo.
- A recuperação melhora de 0/5 para 3,6-4,8/5 em quatro modelos da classe GPT-5 sob uma janela limitada.
- O armazenamento manteve 100% de persistência de gravação (244 de 244 gravações mantidas), com todas as falhas atribuídas à política de leitura do agente.
- Emparelhar o armazenamento dentro do processo com um incorporador local pequeno reduz o custo dominante de incorporação, levando a operação completa para aproximadamente 40 microssegundos.
Esta abordagem demonstra que a disponibilidade rápida e constante transforma a memória em memória de trabalho estendida, melhorando significativamente a recuperação e a eficiência em comparação com os armazenamentos externos tradicionais.