Microsoft Researchは、大規模言語モデルが推論中に正解ラベルや外部フィードバックを必要とせず、自身の経験から学習できるフレームワークであるEvoLibを導入した。EvoLibは、生の経験を静的な記憶として保存するのではなく、再利用可能なスキルや反射的な洞察に変換し、それらを継続的に洗練、統合、再重み付けする。

  • 統合は、新しい知識を既存の類似エントリとマージして、より一般的で再利用可能な単位を作成する。
  • ダイナミックな重み付けメカニズムは、各知識ユニットの即時の有用性と将来のタスクへの長期的な影響に基づいて、その重要度を更新する。
  • このシステムは、モデルの更新を必要とせず、API経由でデプロイされた任意の言語モデルに適用可能なブラックボックスソリューションとして動作する。

EvoLibは、数学的推論、コード生成、長期の意思決定タスクにおいて、トップレベルの検索ベースの記憶手法を一貫して上回る。既存の方法よりも効率的にテスト時の計算リソースを性能向上に変換し、異種タスクに出会う順序に関わらず安定したパフォーマンスを維持する。