著者らは、MILES（Modular Instruction Memory with LEarnable Selection）を提案する。これは、逐次到着する問題間で再利用可能な経験を動的に蓄積することで、テスト時の大規模言語モデルの推論を改善することを目的としたフレームワークである。既存の方法が剛性のテンプレートを保存したりヒューリスティックな選択を使用したりするのとは異なり、MILESは非対称なサブゴール埋め込みとサブ指示のペアからなるモジュール式メモリユニットを維持し、それぞれに学習可能な選択ヘッドが関連付けられている。

  • このフレームワークは、粗いレベルでメモリの拡張を可能にし、信頼性の高いサンプルからの教師信号を集める粗粒度から細粒度への検索メカニズムを採用している。
  • 細かいステージでは、学習した選択ヘッドを適用して候補の再ランク付けを行い、不確実なサンプルの推論を誘導する。
  • このアプローチにより、限られた教師信号の下で現実的なテスト時の制約において漸進的なメモリ拡張が可能になる。

広範な実験により、MILESが一貫して先行手法と同等以上の性能を発揮し、優れた精度と効率のトレードオフ、堅牢性、転移可能性を実現することが示されている。