Les chercheurs présentent un cadre de harnais d'agent auto-évolutif qui améliore automatiquement les performances des LLM sans modifier les poids du modèle. Le système sépare la proposition de changement de l'attribution de crédit, en utilisant du code déterministe pour la mesure et les tests de signification afin de garantir des améliorations fiables.
- Les correctifs remplissent une archive de diversité de qualité catégorielle à porte, indexée sur la pathologie traitée plutôt que sur les tâches corrigées.
- La généralisation est mesurée sur un test scellé, noté uniquement après l'évolution.
- Sur sept domaines avec un modèle à poids ouverts figés, les gains attribués varient de +9 à +15,5 pp.
- L'approche conserve 86 à 147 % du gain d'entraînement, démontrant une généralisation plutôt qu'un surapprentissage.
Le correctif gagnant suit la pathologie dominante du modèle, montrant que la boucle de diagnostic et d'attribution de crédit se transfère entre différentes familles de modèles.