Une nouvelle étude identifie l'« écart entre savoir et utiliser », un phénomène où les grands modèles de langage mémorisent des faits fine-tunés mais échouent à les appliquer dans des tâches de raisonnement en aval. Les auteurs caractérisent cet écart par des déficits de précision et des délais temporels entre la mémorisation et la généralisation.
Les chercheurs ont utilisé une technique d'intervention novatrice appelée auto-patching pour surveiller la dynamique de perméation des connaissances internes pendant le finetuning avec des données non vues. Cette méthode identifie des emplacements d'activation spécifiques où le déplacement des représentations améliore considérablement les cas de généralisation échouée, soutenant l'hypothèse selon laquelle les représentations mémorisées existent mais ne sont pas routées vers des couches computationnellement efficaces. Pour remédier à cela, ils ont conçu une stratégie heuristique qui récupère 58--75 % de l'amélioration potentielle de la généralisation.
Les résultats démontrent que le désalignement entre les connaissances stockées et les chemins de calcul est un facteur clé des échecs de finetuning, offrant une approche diagnostique pour améliorer l'utilité du modèle dans tous les domaines.