PraMem是一种新的长时行为预测方法,旨在解决大语言模型在诱导潜在行为模式和克服认知偏差方面的局限性。它不压缩历史数据,而是对长序列进行事前练习,构建用作辅助输入的经验记忆。

  • 将历史序列从负担重构为可利用的宝贵资源。
  • 通过对历史序列进行事前练习来构建经验记忆。
  • 将该记忆作为辅助输入以提高预测准确性。
  • 在多种任务中展现出优于先前方法的性能。

作者认为此举意义重大,因为它通过利用历史而非仅仅减轻其负担,解决了长时预测中的核心挑战。