Les chercheurs présentent AIDE^2, un système qui implémente une boucle d'amélioration récursive de soi pour un agent de recherche en IA en optimisant son propre code. Le système propose des modifications à sa logique interne, évalue les versions modifiées sur des tâches de R&D en IA, et ne conserve que les améliorations qui obtiennent les meilleurs résultats sur des évaluations cachées.
- Lors d'une exécution autonome de 8 jours, AIDE^2 a découvert sept améliorations successives, dont une nouvelle politique de recherche et des mécanismes de mémoire pour la compression du contexte.
- L'agent découvert le plus performant égale ou dépasse un agent de recherche en production conçu par des humains sur quatre jeux de tests réservés dans l'ingénierie du machine learning, l'ingénierie d'algorithmes heuristiques et la prévision météorologique basée sur la physique.
- Sur une famille de tâches réservée distincte, les agents découverts ont montré une réduction du reward hacking, le taux passant de 55 % à 32 %, soit 7 points de pourcentage en dessous de l'agent conçu par des humains.
Ces résultats démontrent qu'un agent de recherche en IA peut améliorer son efficacité de recherche grâce à l'amélioration récursive de soi et que ces gains se transfèrent à des tâches et domaines jamais rencontrés par la boucle.