Исследователи представляют DRIFTLENS, фреймворк без ground-truth, который количественно оценивает, как память атрибутов пользователя изменяет траектории рассуждений больших языковых моделей. Исследование подтверждает, что этот фреймворк различает существенные изменения в рассуждениях и прагматический шум на четырех LLM и десяти категориях атрибутов пользователя.
- Память атрибутов пользователя вызывает смещение рассуждений от среднего до большого уровня выше порога прагматического шума, даже когда окончательные ответы остаются беглыми и правдоподобными.
- Методы постобучения на основе GRPO и DPO уменьшают это смещение, но ни один из них не является единолично доминирующим по эффективности.
- Влияние стратегий смягчения на последующие возможности, полезность и следование инструкциям зависит от модели и функции вознаграждения.
Результаты указывают на то, что вызванное памятью смещение рассуждений — это измеримая форма отказа персонализированных языковых моделей, которая лишь частично смягчается текущими техниками постобучения.