DRIFTLENS mesure la dérive de raisonnement induite par la mémoire dans les LLM personnalisés

Les chercheurs présentent DRIFTLENS, un cadre sans vérité terrain qui quantifie comment la mémoire des attributs utilisateur reshape les trajectoires de raisonnement des grands modèles de langage. L'étude valide que ce cadre distingue les changements de raisonnement substantiels du bruit pragmatique sur quatre LLM et dix catégories d'attributs utilisateur.

• La mémoire des attributs utilisateur induit une dérive de raisonnement moyenne à grande au-dessus du seuil de bruit pragmatique, même lorsque les réponses finales restent fluides et plausibles.
• Les méthodes post-entraînement basées sur GRPO et DPO réduisent cette dérive, mais aucune ne domine uniformément en efficacité.
• L'impact des stratégies d'atténuation sur la capacité en aval, l'utilité et le respect des instructions dépend du modèle et de la fonction de récompense.

Les résultats indiquent que la dérive de raisonnement induite par la mémoire est un mode de défaillance mesurable des modèles de langage personnalisés qui n'est que partiellement atténué par les techniques actuelles de post-entraînement.