Ir al contenido
En la era de la inteligencia artificial (IA), cada vez más personas piden a los modelos de lenguaje que tomen las decisiones por ellas. Esto ocurre con mayor incidencia entre la gente más joven, generación que usa la IA como una suerte de “oráculo”.
Así lo advirtió Dan Jurafsky, profesor de Lingüística y Ciencia de la Computación de la Universidad de Stanford (Estados Unidos). Él fue uno de los ponentes centrales del SIMBig 2026, International Conference on Information Management and Big Data, realizado en la Universidad Católica San Pablo en Arequipa.
Durante su ponencia, Jurafsky sostuvo que, de acuerdo con los estudios que realizó, ahora “la gente confía demasiado en los modelos de lenguaje para cualquier tipo de decisión personal”.
Un modelo de lenguaje es un sistema de inteligencia artificial entrenado para entender y generar un lenguaje natural o texto similar al humano. Los grandes modelos de lenguaje más populares son GPT, Claude y Gemini.
El profesor Dan Jurafsky, quien tiene un PhD por la Universidad de California, Berkeley, explicó que realizó una investigación basada en datos proporcionados por los usuarios a la plataforma WildChat. De ese estudio se desprende que la proporción de usuarios que utiliza la IA como “tomador de decisiones directo” creció de 23 % a 26 % en el tiempo.
No solo eso, también va en aumento la cantidad de personas que recurren a la tecnología para interpretar la intención detrás de lo que dicen otros seres humanos.
Esta dinámica se acentúa entre los más jóvenes, quienes muestran una mayor tendencia a consultar a los modelos de lenguaje sobre qué hacer en situaciones cotidianas o afectivas. “La gente joven la usa como un oráculo que les dice qué hacer”, describió.
El problema radica en que los usuarios olvidan que interactúan con un sistema sesgado, cuyo objetivo es incentivar a que continúen hablando.
Por primera vez la UCSP fue sede de SIMBig. La siguiente edición se realizará en Córdoba, Argentina. SIMBig es uno de los eventos latinoamericanos más importantes sobre inteligencia artificial.
Este apego desmedido de los usuarios tiene como origen la sicofancia: la tendencia del modelo a validar incondicionalmente las posturas del usuario, a darle la razón y a complacerlo.
Jurafsky señaló que la tecnología fue entrenada para actuar bajo la lógica de que el usuario es el jefe y que, como tal, nunca se equivoca.
Al respecto, Daniel Gutiérrez Pachas, profesor del Departamento de Computación de la Universidad Católica San Pablo, explicó que los modelos de lenguaje, al ser entrenados con grandes volúmenes de información, tienen un tipo de sesgo computacional. “De alguna forma aproxima a las llamadas alucinaciones en sus respuestas. Conforme uno le proporciona más preguntas, tendenciosamente comienza a darte la razón”, explicó.
Con ello, se demuestra que los modelos requieren de la intervención humana, ya que al final estos pueden dar la respuesta que uno quiere. “Debemos ser conscientes y no hay que creerle todo a la IA”, manifestó el docente.
Frente a este panorama, Dan Jurafsky advirtió sobre los peligros que corren las personas que obtienen este tipo de respuestas de los modelos de lenguaje. Con las respuestas complacientes se limita el aprendizaje, se fomenta el egocentrismo, las ilusiones y la dependencia emocional.
A ello se suma la disparidad entre modelos. Mientras sistemas abiertos y herramientas como OpenAI registran altos niveles de sicofancia, alternativas como Anthropic muestran índices menores, y Gemini de Google se posiciona como el modelo menos sicofántico por un margen considerable.
Con estos hallazgos, el profesor Jurafsky destacó que la ciencia debe volcar su atención hacia el impacto real en las personas y no solo en la precisión matemática. Para evitar que la sobredependencia a la IA perjudique el juicio crítico, aconseja a los usuarios que no le pidan que tome decisiones, sino que muestre alternativas con los pros y los contras.
