Um estudo examina como as estruturas de Geração Aumentada por Recuperação (RAG) transmitem viés ideológico de materiais recuperados para respostas de modelos de linguagem grandes (LLM). A pesquisa identifica que a temperatura de amostragem influencia significativamente a intensidade dessa transferência ideológica.
- Os pesquisadores aplicaram Análise Multidimensional Léxica a um corpus de 1.117 artigos sobre tratamentos para COVID-19 para identificar três discursos ideológicos usados como conhecimento externo.
- LLMs foram testados em questões ideológicas com diferentes temperaturas de amostragem, com as saídas avaliadas quanto à similaridade semântica e léxica com textos de referência.
- O alinhamento discursivo entre as respostas geradas e os textos de referência atinge o pico em temperaturas moderadas, equilibrando a estocasticidade com a fundamentação da recuperação.
- O alinhamento cai em temperaturas baixas, indicando que a amostragem excessivamente determinística suprime a transferência do discurso ideológico.
As descobertas destacam que sistemas RAG estão propensos a amplificar ou suprimir posições ideológicas com base em suas fontes de recuperação, com a temperatura servindo como um fator crítico de controle para o alinhamento do discurso.