PraMemは、大規模言語モデルが潜在的な行動パターンを誘導し、認知バイアスを克服する際の制限に対処する、長期行動予測のための新しいアプローチです。履歴データを圧縮するのではなく、長いシーケンスに対して事前に行う練習を通じて体験記憶を構築し、それを補助入力として使用します。
- 負担だった履歴シーケンスを、活用できる貴重なリソースへと再構成する。
- 履歴シーケンスに対する事前の練習を通じて体験記憶を構築する。
- この記憶を補助入力として使用し、予測精度を向上させる。
- 多様なタスクにおいて、既存の方法よりも優れたパフォーマンスを示す。
著者らは、これは歴史を活用することで長期予測の中核的な課題を解決するため、重要であると見なしています。