Pesquisadores propõem o Gating de Amplitude (AG), um método não destrutivo no tempo de inferência que modula as magnitudes de ativação da rede feed-forward para melhorar saídas estruturadas em grandes modelos de linguagem sem retreinar os pesos. Esta abordagem aborda as limitações dos reparos anteriores que mudavam a direção, preservando as direções dos pesos pré-treinados enquanto corrige pequenos erros de formato ou argumento.
- O AG define um sistema de intervenção fino que abrange P1/P2/P3 e locais específicos de ramificação, avaliado por meio de um protocolo que separa a margem do oráculo de combinação dos gates aprendidos.
- No Qwen3.5-9B, os gates aprendidos em nível de categoria melhoram o desempenho de ferramentas/estruturado/agêntico de 38,66% para 42,92%, com as tarefas de chamada de função do Hermes ganhando aproximadamente +7,6 pontos.
- No Qwen3-8B, o modo JSON do Hermes melhora em +11,36 pontos.
- O Qwen2.5-7B retém a margem do oráculo, mas os gates aprendidos atuais falham em capturá-la, indicando que a implantação requer roteamento específico do modelo.
- As comparações mostram que nem o AG de entropia nem o AG com janela Newton-Schulz são uniformemente dominantes entre os modelos.
Os resultados identificam a inferência estruturada por ferramentas como o alvo mais crível para otimização segura em nível FFN, embora uma avaliação cruzada mais ampla entre modelos ainda seja necessária.