Un estudio de 17 modelos en tres familias revela que los modelos de lenguaje alineados a menudo se comprometen temporalmente con respuestas incorrectas en capas intermedias (25-90% de profundidad) antes de ser corregidos por mecanismos de capas tardías. Este "bajo equivocado" se verifica causalmente mediante trasplante de activaciones y varía significativamente según las recetas de alineación y la escala del modelo.

  • La amplificación causal del bajo equivocado es específica de la receta, alcanzando su punto máximo en 32B en Qwen2.5 y revirtiéndose en Llama-3-8B.
  • Los elementos con alto bajo tienen 3-7 veces más probabilidades de fallar bajo compresión de bajo rango o poda de capas tardías, mientras permanecen robustos a la cuantización.
  • Un ajuste fino LoRA con una penalización de margen equivocado en capa intermedia reduce el bajo causal en un 67-70% sin sacrificar precisión.
  • SFT solo de salida empeora el bajo causal hasta 2.8x incluso con precisión superficial perfecta.
  • El fenómeno persiste en I/O de lenguaje natural, separando la fragilidad en una capa de rescate tardío auditable del bajo y una capa de interfaz ciega al bajo.

Los autores concluyen que la corrección a nivel de salida puede ocultar un proceso de rescate tardío que gobierna el riesgo de compresión, la calidad post-entrenamiento y la distorsión de evaluación.