Pesquisadores introduzem o DRIFTLENS, um framework sem ground-truth que quantifica como a memória de atributos do usuário remodela as trajetórias de raciocínio de grandes modelos de linguagem. O estudo valida que este framework distingue mudanças substantivas no raciocínio do ruído pragmático em quatro LLMs e dez categorias de atributos do usuário.
- A memória de atributos do usuário induz um desvio de raciocínio de médio a grande acima do limiar de ruído pragmático, mesmo quando as respostas finais permanecem fluentes e plausíveis.
- Métodos de pós-treinamento baseados em GRPO e DPO reduzem esse desvio, mas nenhum domina uniformemente em eficácia.
- O impacto das estratégias de mitigação na capacidade downstream, utilidade e seguimento de instruções depende do modelo e da recompensa.
Os resultados indicam que o desvio de raciocínio induzido por memória é um modo de falha mensurável dos modelos de linguagem personalizados que é apenas parcialmente mitigado pelas técnicas atuais de pós-treinamento.