Un estudio exploratorio demuestra que los modelos de lenguaje grandes exhiben una asimetría funcional entre la producción y la percepción del lenguaje, a pesar de utilizar el mismo mecanismo de predicción del siguiente token para ambos. Al medir directamente las probabilidades de los tokens en lugar de depender del prompting metalingüístico, los investigadores encontraron que solo el encuadre del prompt induce distribuciones de probabilidad distintas en las arquitecturas de solo decodificador.
- Utilizando el modelo base Llama-3.1-8B, el estudio generó poemas bajo prompts de producción y los reevaluó bajo prompts orientados a la percepción.
- Las distancias entre producción y percepción superaron consistentemente a las distancias entre producciones, con una relación promedio general de aproximadamente 1.8.
- El efecto se replicó en cinco modelos de peso abierto: Llama-3.1-8B, EuroLLM-9B, gemma-2-9b-it, Mistral-7B-Instruct-v0.3 y Qwen2.5-7B-Instruct.
- El análisis temporal mostró que la influencia del prompt de percepción es más fuerte al principio de la secuencia, decayendo la divergencia a medida que se acumula el contexto generado.
Estos hallazgos sugieren que el encuadre comunicativo impacta significativamente en cómo los LLM procesan la información, distinguiendo entre generar texto y evaluarlo.