大規模言語モデルのファインチューニングはしばしば「知っていることと使うことのギャップ」を引き起こし、モデルが新しい事実を暗記しても、下流の推論タスクでそれらを適用できないという状況が生じる。これを調査するため、研究者はモデル内の知識の空間的浸透ダイナミクスを監視するための自己修復（self-patching）という手法を導入した。

本研究では、暗記された表現が内部に存在しても計算効果的な層へルーティングされないことが特定され、知識回路の不一致仮説が支持された。自己修復は、表現を再配置することで失敗した汎化ケースを改善できる活性化部位を検出する。これらの知見に基づくヒューリスティック戦略により、汎化における潜在的な改善の58--75%が回復される。

この診断的アプローチは、暗記された知識がなぜ汎化に失敗するのかを説明し、モデルのファインチューニング中に大きな性能向上を取り戻すための手法を提供する。