La inteligencia artificial generativa no piensa; calcula. Tras la popularización de herramientas como ChatGPT, capaces de responder consultas complejas, se esconde un riesgo latente: la capacidad de fabricar respuestas incorrectas o inventadas. Así, las llamadas alucinaciones se presentan de forma peligrosamente convincente. No todo lo que “dice” ChatGPT es cierto.
Estos chatbots no saben que se equivocan. Su funcionamiento consiste en generar la respuesta más probable según datos procesados previamente, y esa respuesta no necesariamente es verdadera. Si el usuario no domina el tema, es muy difícil detectar cuándo está frente a una alucinación; así, la confianza ciega se convierte en desinformación.
Hace algún tiempo puse a prueba este mecanismo con una pregunta sobre nuestra cultura popular: ¿Quién es Don Gilberto en la serie Al fondo hay sitio? La respuesta fue una biografía bien redactada, pero totalmente ficticia: lo presentaba como el padre de Charito e indicaba que fue interpretado por Edgar Vivar. Aunque el error fue corregido en actualizaciones posteriores, la pregunta persiste: ¿Qué tan frecuentes y profundas son estas fallas?
La detección de alucinaciones es hoy uno de los mayores desafíos para el mundo académico. Por ello, es imperativo que el usuario mantenga un enfoque crítico frente a estas plataformas. La verificación de las respuestas se torna en una tarea de vital importancia, especialmente en dominios críticos como la toma de decisiones, donde un dato falso puede tener consecuencias reales.
Mi propósito no es desanimar al lector a usar chatbots basados en inteligencia artificial, sino alentar el uso responsable de estas herramientas. La inteligencia artificial puede acelerar nuestro día a día y optimizar tareas repetitivas, pero solo si mantenemos la capacidad de evaluar la calidad de sus respuestas. La verdadera inteligencia no es la que genera el texto, sino la que tiene el juicio para cuestionarlo.