El artículo propone mover el almacenamiento de memoria dentro del bucle de razonamiento del agente para crear una "memoria de trabajo extendida", argumentando que la latencia está determinada por la ubicación del almacén en lugar del patrón de recuperación. Al utilizar un almacén dentro del proceso que responde en aproximadamente 100 microsegundos, el sistema evita la alta latencia de los almacenes en red, que pueden inflar el tiempo de extremo a extremo hasta en 83 veces.
- Las acciones redundantes caen de 7.2 de cada 12 con una ida y vuelta a la nube de 110ms a cero a velocidades dentro del proceso.
- La recuperación mejora de 0/5 a 3.6-4.8/5 en cuatro modelos de clase GPT-5 bajo una ventana acotada.
- El almacén mantuvo el 100% de persistencia de escritura (244 de 244 escrituras conservadas), con todos los fallos atribuidos a la política de lectura del agente.
- Emparejar el almacén dentro del proceso con un incrustador local pequeño reduce el costo dominante de incrustación, llevando la operación completa a aproximadamente 40 microsegundos.
Este enfoque demuestra que la disponibilidad rápida y constante transforma la memoria en una memoria de trabajo extendida, mejorando significativamente la recuperación y la eficiencia en comparación con los almacenes externos tradicionales.