El ajuste fino de modelos de lenguaje grandes a menudo resulta en una "brecha entre saber y usar", donde los modelos memorizan nuevos hechos pero fallan al aplicarlos en tareas de razonamiento posteriores. Para investigar esto, los investigadores introdujeron una técnica llamada auto-reparación para monitorear la dinámica de permeación espacial del conocimiento dentro del modelo.
El estudio identifica que las representaciones memorizadas pueden existir internamente pero no se enrutan hacia capas efectivas para el cómputo, apoyando la hipótesis de desalineación de circuitos de conocimiento. La auto-reparación localiza sitios de activación donde reubicar las representaciones mejora los casos de generalización fallida. Una estrategia heurística basada en estos hallazgos recupera entre el 58--75% de la mejora potencial en la generalización.
Este enfoque diagnóstico ayuda a explicar por qué el conocimiento memorizado no se generaliza y ofrece un método para recuperar ganancias significativas de rendimiento durante el ajuste fino del modelo.