Trois récents articles académiques de Google, Harvard & MIT, et Imperial College & Huawei convergent vers la conclusion que le prochain bond en intelligence de l'IA sera piloté par des systèmes distribués plutôt que par des modèles uniques plus grands. Les auteurs soutiennent que l'intelligence est fondamentalement plurielle, émergeant de l'interaction d'agents spécialisés ou de structures sociétales internes.
- L'équipe Paradigms of Intelligence de Google a découvert que les modèles de raisonnement de pointe simulent spontanément des « sociétés de pensée » internes par le biais de débats et de vérifications, suggérant que l'intelligence n'est pas monolithique.
- Les chercheurs de Harvard & MIT ont démontré que des agents d'IA faibles utilisant des incitations de type marché s'auto-organisent en une intelligence collective qui surpasse les modèles monolithiques plus puissants dans le raisonnement mathématique et la recherche financière.
- Imperial College & Huawei ont découvert que les LLMs développent un « noyau synergique » dans leurs couches intermédiaires où les têtes d'attention se spécialisent, un phénomène observé à travers Gemma, Llama, Qwen et DeepSeek.
L'article avance que le succès futur de l'IA dépendra de la construction d'écosystèmes d'agents petits et spécialisés fonctionnant sur du matériel edge qui s'auto-organisent par des interactions locales, plutôt que de concentrer la puissance de calcul dans des modèles massiques uniques.