Авторы представляют общую избирательную постоянную память для систем агентных LLM, чтобы устранить потерю контекста, возникающую при запуске сессий с нуля. Эта архитектура идентифицирует и сохраняет повторно используемый контекст — такой как спецификации задач, схемы данных, конфигурации инструментов и ограничения вывода — отбрасывая при этом трассировки рассуждений, специфичные для сессии.
- Достижение 96% завершения задач в трех корпоративных сценариях по сравнению с 79% без памяти и 71% с полной историей.
- Реализация механизма обновления данных с нулевым количеством токенов, который разделяет сгенерированные программы и данные времени выполнения, сокращая время задачи в 14 раз.
- Снижение стоимости токенов на одно обращение в 97 раз по сравнению с сырым внедрением данных с использованием генерации на основе сводок.
- Демонстрация обобщаемости на четырех публичных наборах данных, где обновление с нулевым количеством токенов успешно прошло во всех 12 испытаниях.
Подход позволяет совместное повторное использование рабочих пространств без избыточных спецификаций и избегает деградации, вызванной наивным сохранением полной истории.