Los investigadores proponen el Enmascaramiento de Amplitud (AG), un método de inferencia no destructivo que modula las magnitudes de activación de la red feed-forward para mejorar las salidas estructuradas en modelos de lenguaje grandes sin reentrenar los pesos. Este enfoque aborda las limitaciones de las reparaciones anteriores basadas en cambios de dirección, preservando las direcciones de los pesos preentrenados mientras corrige pequeños errores de formato o de argumentos.
- AG define un sistema de intervención fino que abarca P1/P2/P3 y sitios específicos de rama, evaluado mediante un protocolo que separa el margen del oráculo de combinación de las puertas aprendidas.
- En Qwen3.5-9B, las puertas aprendidas a nivel de categoría mejoran el rendimiento en herramientas/estructurado/agente desde 38.66% hasta 42.92%, con las tareas de llamada de funciones de Hermes ganando aproximadamente +7.6 puntos.
- En Qwen3-8B, el modo JSON de Hermes mejora en +11.36 puntos.
- Qwen2.5-7B conserva el margen del oráculo, pero las puertas aprendidas actuales no logran capturarlo, lo que indica que el despliegue requiere enrutamiento específico del modelo.
- Las comparaciones muestran que ni la AG de entropía ni la AG con ventana Newton-Schulz son uniformemente dominantes en todos los modelos.
Los resultados identifican la inferencia estructurada para herramientas como el objetivo más creíble para la optimización a nivel FFN, aunque sigue siendo necesaria una evaluación cruzada más amplia entre modelos.