Heshware está investigando si un grafo activado dinámicamente de nodos de memoria puede servir como una capa de memoria a largo plazo interpretable para un modelo de lenguaje local. Esta propuesta proviene de Marven Neural Node Network, originalmente una visualización interactiva del procesamiento cognitivo.
La arquitectura propuesta incluye la ingestion de objetos de memoria estructurados, recuperación vectorial para similitud semántica y una estructura de grafo para relaciones y enlaces temporales. También cuenta con valores de activación para la entrada al contexto, procesos de decaimiento para la consolidación y un proceso de síntesis en sandbox para recombinar memorias sin tratarlas como hechos.
El autor busca comentarios técnicos sobre las métricas de activación de nodos, la idoneidad de las redes neuronales gráficas y los métodos para combinar similitud vectorial con relaciones explícitas de grafo. El objetivo es desarrollar una arquitectura comprobable que mejore la precisión de recuperación, la continuidad y la interpretabilidad mientras resiste el envenenamiento de memoria.