Inteligencia artificial: de las respuestas de memoria a las respuestas con evidencia

Escrito por Encuentro
Compartir en Facebook
Compartir en X
Compartir en WhatsApp
Irvin Dongo EscalanteProfesor del Departamento de Ingeniería Eléctrica y Electrónica de la Universidad Católica San Pablo.

La inteligencia artificial generativa ha cambiado nuestra manera de buscar información. Hoy podemos formular una pregunta sobre historia, ciencia, turismo o cualquier tema y recibir, en segundos, una respuesta bien redactada y aparentemente convincente. Sin embargo, esta facilidad esconde una de sus principales debilidades: una respuesta convincente no es necesariamente una respuesta correcta. Los grandes modelos de lenguaje, conocidos como LLM, han sido entrenados con enormes cantidades de información. Gracias a ello pueden generar textos, explicar conceptos y mantener conversaciones sorprendentemente naturales. Pero, en términos sencillos, responden principalmente a partir de patrones aprendidos durante su entrenamiento. Es algo parecido a responder de memoria: pueden conocer mucho, pero no necesariamente tienen acceso a la información específica, actualizada o especializada que necesitamos en un determinado momento. 

Una alternativa que gana importancia es la generación aumentada por recuperación, conocida como RAG por sus siglas en inglés (Retrieval-Augmented Generation). Antes de elaborar una respuesta, la inteligencia artificial busca información relevante en fuentes externas y utiliza lo encontrado como contexto para responder. En lugar de depender exclusivamente de lo que “recuerda”, puede consultar una base documental y construir su respuesta a partir de evidencia disponible. Pensemos en un museo. Ante la pregunta de un visitante sobre el origen de una pieza histórica, una inteligencia artificial podría intentar responder utilizando únicamente su conocimiento previo. Con RAG, en cambio, podría consultar información previamente validada sobre la colección, recuperar los datos relacionados con esa pieza y utilizarlos para generar una explicación contextualizada. Precisamente, la recuperación de información especializada y su integración con modelos de lenguaje permite plantear interacciones más precisas y contextualizadas. 

Sin embargo, RAG tampoco resuelve el problema de la confiabilidad. Recuperar información no significa necesariamente recuperar la información correcta. El sistema puede encontrar documentos irrelevantes, incompletos, contradictorios o desactualizados. También puede disponer de buena evidencia y utilizarla incorrectamente al construir la respuesta. Aquí aparece uno de los grandes retos de la inteligencia artificial. Ya no será suficiente preguntarnos qué tan grande o potente es un modelo. Tendremos que preguntarnos qué evidencia respalda sus respuestas, de dónde proviene, si es suficiente y si es consistente. 

Esta discusión será especialmente importante cuando la inteligencia artificial sea utilizada en ámbitos donde una respuesta incorrecta puede tener consecuencias relevantes. La trazabilidad de la información, la calidad de las fuentes y la capacidad de reconocer incertidumbre deberán adquirir tanta importancia como la fluidez de las respuestas. 

Durante los últimos años, hemos quedado impresionados por máquinas capaces de responder casi cualquier pregunta. La siguiente etapa debería ser más exigente. Quizá el verdadero avance no sea construir una inteligencia artificial que siempre tenga una respuesta, sino una que pueda demostrar por qué tenemos razones para confiar en ella.

Tags relacionados:
Te puede interesar