著者らは、セッションがゼロから始まる際に発生するコンテキスト損失に対処するため、エージェント型LLMシステム向けの共有選択的永続メモリを導入した。このアーキテクチャは、タ仕様の要件、データスキーマ、ツール設定、出力制約など再利用可能なコンテキストを特定して保持しつつ、セッション固有の推論トレースを破棄する。
- メモリなしの場合79%、完全履歴使用時71%と比較し、3つのエンタープライズシナリオ全体でタスク完了率96%を達成。
- 生成されたプログラムとランタイムデータを分離するゼロトークンデータ更新メカニズムを実装し、タスク時間を14倍短縮。
- サマリー駆動型生成を用いることで、生データ注入と比較して呼び出しあたりのトークンコストを97分の1に削減。
- 4つの公開データセットで汎用性を示し、ゼロトークン更新は全12回の試行で成功。
本アプローチにより、冗長な仕様付けなしでワークスペースの協調再利用が可能になり、単純な完全履歴永続化によって引き起こされる劣化を回避できる。