一项新研究识别了“知用差距”(Knowing-Using Gap)现象,即大型语言模型记住了微调后的事实,但在下游推理任务中无法应用这些事实。作者通过记忆与泛化之间的精度缺陷和时间滞后来表征这一差距。
研究人员利用一种称为自修复(self-patching)的新型干预技术,监控在使用未见数据微调期间的内部知识渗透动态。该方法识别出特定的激活位置,在这些位置上重新定位表示能显著改善失败的泛化案例,支持了以下假设:已记忆的代表确实存在,但未路由到计算高效的层。为解决此问题,他们设计了一种启发式策略,恢复了58--75%的潜在泛化改进。
研究结果表明,存储知识与计算路径之间的不匹配是微调失败的关键因素,提供了一种诊断方法以增强模型在不同领域的效用。