Исследование изучает, как системы Retrieval-Augmented Generation (RAG) передают идеологическую предвзятость из извлечённых материалов в ответы больших языковых моделей (LLM). Исследование выявило, что температура выборки существенно влияет на силу этого идеологического переноса.

  • Исследователи применили лексический многомерный анализ к корпусу из 1,117 статей о лечении COVID-19 для выявления трёх идеологических дискурсов, используемых в качестве внешних знаний.
  • LLM тестировались на идеологических вопросах при различных температурах выборки, а их выводы оценивались на семантическое и лексическое сходство с эталонными текстами.
  • Дискурсивное выравнивание между сгенерированными ответами и эталонными текстами достигает пика при умеренных температурах, балансируя стохастичность с привязкой к извлечению.
  • Выравнивание падает при низких температурах, что указывает на то, что чрезмерно детерминированная выборка подавляет передачу идеологического дискурса.

Выводы подчеркивают, что системы RAG склонны усиливать или подавлять идеологические позиции в зависимости от источников извлечения, при этом температура служит критическим фактором контроля для выравнивания дискурса.