研究者らは、LLMエージェント向けの推論実行手法を導入し、過去の軌道から学習するために3つのオンラインメモリシステムを推論機に備えることで、既存の状態lessな推論機の限界に対処しました。このアプローチは、対照的遷移テーブル、エピソードメモリ、および混乱トラッカーを利用して、時間とともに予測品質を向上させます。

  • メモリ拡張型推論により、アクション予測ベンチマークで相対精度が19--39%改善されました。
  • 観察予測タスクでは、反復アクション空間において最大2.5倍のパフォーマンス向上が見られました。
  • メモリが蓄積されるにつれて利益は継続的に拡大し、さまざまなコストの推論モデル間で汎化します。
  • すべての推論はアイドル時間中に実行され、壁時計コストの追加ゼロと同一のアクター軌道をもたらします。

この手法は、実行速度や正確性に影響を与えることなく、履歴データを活用して予測精度を高めることで、LLMエージェントに対して無損失の加速を提供します。