Статья предлагает перенести хранение памяти внутрь контура рассуждений агента, чтобы создать «расширенную рабочую память», утверждая, что задержка определяется местоположением хранилища, а не паттерном поиска. Используя внутрипроцессное хранилище, отвечающее примерно за 100 микросекунд, система избегает высокой задержки сетевых хранилищ, которая может увеличить время от конца до конца до 83 раз.
- Избыточные действия снижаются с 7.2 из 12 при облачном времени ответа в 110 мс до нуля при внутрипроцессной скорости.
- Точность восстановления улучшается с 0/5 до 3.6-4.8/5 для четырех моделей класса GPT-5 в рамках ограниченного окна.
- Хранилище обеспечило 100% сохранность записи (244 из 244 записей сохранены), при этом все промахи связаны с политикой чтения агента.
- Сочетание внутрипроцессного хранилища с небольшим локальным эмбеддером снижает доминирующую стоимость эмбеддинга, доводя полную операцию до примерно 40 микросекунд.
Этот подход демонстрирует, что быстрая и постоянная доступность превращает память в расширенную рабочую память, значительно улучшая восстановление и эффективность по сравнению с традиционными внешними хранилищами.