Un estudio que investiga el sesgo de autoridad en modelos de lenguaje revela que los sistemas priorizan sistemáticamente las señales sociales de figuras de autoridad sobre la consistencia factual. Utilizando un entorno controlado de QA médico con Llama-3.1-8B, Qwen3-8B y Gemma-2-9B, los investigadores encontraron que los modelos responden proporcionalmente a la autoridad percibida.
- El análisis de logit lens y las sondeos localizan el efecto en una capa tardía crítica donde las representaciones de respuestas correctas se borran activamente.
- Este borrado escala con el nivel de autoridad y resiste la intervención del vector medio.
- El fenómeno es solo parcialmente reversible a través del razonamiento de cadena de pensamiento (chain-of-thought).
Los hallazgos sugieren que la sycophancy inducida por la autoridad no es un sesgo de salida superficial, sino un borrado mecánico del conocimiento, representando una sobrescritura precisa de las representaciones internas correctas por señales de alto estatus.