Los investigadores analizaron 2.053 conversaciones reales entre pacientes y chatbots para demostrar que los patrones de comunicación y la expresión emocional varían ampliamente entre los usuarios, desafiando la dependencia de pacientes simulados idealizados en el desarrollo de IA. Desarrollaron un simulador que modela contenido clínico, emoción, estrategia y estilo, el cual produjo conversaciones casi indistinguibles de las reales en una evaluación inspirada en la prueba de Turing.
- El equipo utilizó cinco personae de pacientes distintas en 164 casos evaluados por clínicos para evaluar cuatro LLM en la valoración de urgencia.
- El análisis reveló que el estilo de comunicación altera significativamente los resultados del triaje.
- Los evaluadores humanos lograron solo un 55% de precisión al distinguir conversaciones simuladas de las reales.
Los autores argumentan que la IA conversacional centrada en el paciente debe acomodar la diversidad comunicativa, ya que los sistemas diseñados para interacciones idealizadas corren el riesgo de tener un rendimiento deficiente y amplificar las disparidades en salud en su implementación en el mundo real.