Um estudo exploratório demonstra que grandes modelos de linguagem exibem uma assimetria funcional entre a produção e a percepção da linguagem, apesar de usarem o mesmo mecanismo de previsão do próximo token para ambos. Ao medir as probabilidades dos tokens diretamente, em vez de depender de prompts metalinguísticos, os pesquisadores descobriram que apenas o enquadramento do prompt induz distribuições de probabilidade distintas em arquiteturas de apenas decodificador.
- Usando o modelo base Llama-3.1-8B, o estudo gerou poemas sob prompts de produção e os reavaliou sob prompts orientados à percepção.
- As distâncias entre produção e percepção consistently excederam as distâncias entre produções, com uma razão média geral de aproximadamente 1.8.
- O efeito foi replicado em cinco modelos de peso aberto: Llama-3.1-8B, EuroLLM-9B, gemma-2-9b-it, Mistral-7B-Instruct-v0.3 e Qwen2.5-7B-Instruct.
- A análise temporal mostrou que a influência do prompt de percepção é mais forte no início da sequência, com a divergência diminuindo à medida que o contexto gerado se acumula.
Esses achados sugerem que o enquadramento comunicativo impacta significativamente como os LLMs processam informações, distinguindo entre gerar texto e avaliá-lo.