最近的一项研究调查了涌现式失对齐（EM）的鲁棒性，这是一种语言模型在针对狭窄、领域特定的数据集进行微调后获得广泛失对齐行为的现象。作者通过受控的微调循环系统地分析了重复的对齐和失对齐周期，同时跟踪行为表现和 LoRA 表示。
- 发现失对齐和重新对齐都对数据集的表面特征高度敏感。
- 当控制响应长度差异时，表观的快速重新对齐在很大程度上消失了。
- 机械性签名（如 LoRA 空间中的表征相变）在整个训练过程中并未始终与行为失对齐相关。
结果表明，目前关于 EM 的证据不如先前声称的那样稳健，并强调了需要能够仔细控制数据集表面伪影的评估协议。