Um estudo examina como as estruturas de Geração Aumentada por Recuperação (RAG) transmitem viés ideológico de materiais recuperados para respostas de modelos de linguagem grandes (LLM). A pesquisa identifica que a temperatura de amostragem influencia significativamente a intensidade dessa transferência ideológica.

  • Os pesquisadores aplicaram Análise Multidimensional Léxica a um corpus de 1.117 artigos sobre tratamentos para COVID-19 para identificar três discursos ideológicos usados como conhecimento externo.
  • LLMs foram testados em questões ideológicas com diferentes temperaturas de amostragem, com as saídas avaliadas quanto à similaridade semântica e léxica com textos de referência.
  • O alinhamento discursivo entre as respostas geradas e os textos de referência atinge o pico em temperaturas moderadas, equilibrando a estocasticidade com a fundamentação da recuperação.
  • O alinhamento cai em temperaturas baixas, indicando que a amostragem excessivamente determinística suprime a transferência do discurso ideológico.

As descobertas destacam que sistemas RAG estão propensos a amplificar ou suprimir posições ideológicas com base em suas fontes de recuperação, com a temperatura servindo como um fator crítico de controle para o alinhamento do discurso.