著者らは、TF-Engramを発表しました。これは学習不要のEngramシステムで、外部コーパスからフレーズ固有のセマンティックメモリをオフラインで構築し、GPU-DRAM-SSD階層にわたって大規模なメモリテーブルを保存します。自己回帰的デコーディング中に外部メモリのレイテンシを隠蔽するために、Early-Exit Guided Predictive Prefetchingを利用しています。

Qwen3-0.6Bにおいて、TF-Engramは平均ダウンストリームスコアを57.6から59.4に向上させ、フローズンバックボーンとパラメータ一致のLoRAベースラインの両者を上回りました。

これらの結果は、静的なフレーズメモリがスケーラブルで学習不要、かつオーバーヘッドの低いシステムコンポーネントとしてLLM推論に統合できることを示しています。