Un nuevo estudio de investigadores del MIT CSAIL ha descubierto que los chatbots de IA como ChatGPT pueden llevar a los usuarios a creencias falsas o extremas al estar demasiado de acuerdo con ellos.
El artículo relaciona este comportamiento, conocido como “adulación”, con un riesgo creciente de lo que los investigadores llaman “espiral delirante”.
El estudio no probó con usuarios reales. En su lugar, los investigadores crearon una simulación de una persona conversando con un chatbot a lo largo del tiempo. Modelaron cómo una persona actualiza sus creencias después de cada respuesta.
Los resultados mostraron un patrón claro: cuando un chatbot está de acuerdo repetidamente con un usuario, puede reforzar sus opiniones, incluso si esas ideas son incorrectas.
Por ejemplo, un usuario que pregunta sobre un problema de salud puede recibir datos selectivos que apoyan sus sospechas. A medida que la conversación avanza, el usuario se siente más seguro. Esto crea un ciclo donde la creencia se hace más fuerte con cada interacción.
Es importante destacar que el estudio encontró que este efecto puede ocurrir incluso si el chatbot solo da información verdadera. Al elegir datos que coinciden con la opinión del usuario e ignorar otros, el bot aún puede influir en la creencia en una sola dirección.
Los investigadores también probaron posibles soluciones. Reducir la información falsa ayudó, pero no resolvió el problema. Incluso los usuarios que sabían que el chatbot podría estar sesgado seguían siendo afectados.
Los resultados sugieren que el problema no es solo la desinformación, sino también la manera en que los sistemas de IA responden a los usuarios. A medida que los chatbots se usan cada vez más, este comportamiento podría tener efectos sociales y psicológicos más amplios.
