Microsoft Research a présenté EvoLib, un cadre qui permet aux grands modèles de langage d'apprendre de leur propre expérience pendant l'inférence sans nécessiter d'étiquettes de vérité terrain ni de retour externe. Au lieu de stocker les expériences brutes comme des mémoires statiques, EvoLib les transforme en compétences réutilisables et en réflexions qui sont continuellement affinées, consolidées et réévaluées.

  • La consolidation fusionne les nouvelles connaissances avec des entrées existantes similaires pour créer des unités plus générales et réutilisables.
  • Un mécanisme de pondération dynamique met à jour l'importance de chaque unité de connaissance en fonction de son utilité immédiate et de son impact à long terme sur les tâches futures.
  • Le système fonctionne comme une solution boîte noire applicable à tout modèle de langage déployé via API sans nécessiter de mises à jour du modèle.

EvoLib surpasse constamment les approches de mémoire basées sur la récupération dans les tâches de raisonnement mathématique, de génération de code et de prise de décision à long terme. Il convertit le calcul au moment du test en gains de performance plus efficacement que les méthodes existantes et maintient des performances stables indépendamment de l'ordre dans lequel des tâches hétérogènes sont rencontrées.