Julio Santisteban Pablo
Docente del Departamento de Ciencia de la Computación de la Universidad Católica San Pablo
La carrera industrial de la inteligencia artificial (IA) está siendo salvaje. La sociedad y la comunidad científica están teniendo poca previsión de las consecuencias legales o éticas que pueden acarrear su uso, y están liberando herramientas de IA con fines económicos, pero sin ningún otro reparo.
Sin duda alguna, la IA está transformando la industria, desde la generación de una simple imagen hasta la predicción y propuesta de tratamientos del cáncer y otras enfermedades. Pero esta presenta alucinaciones que pueden generar respuestas imprevistas, no deseadas e ilegales. Por ejemplo, cuando un cliente solicitó una mezcla de aguas aromáticas a una IA en un supermercado de Nueva Zelanda, esta le dio la receta del famoso “gas mostaza”. Increíble ¿no?
El término “inteligencia artificial” se refiere al objetivo de una de las áreas de investigación de ciencia de la computación. En realidad, el término alternativo fue sistemas expertos. Recordemos que las herramientas de IA no son inteligentes en absoluto, sino que propiamente es una pseudointeligencia.
Esto permite entender el porqué de sus alucinaciones, debido a que en sus generaciones no hay un ejercicio estricto de la prudencia, por lo que estos modelos autogenerativos de la IA no son predecibles. Si bien es cierto, se conoce cómo funciona la IA al manejar decenas de miles de millones de parámetros con valores aleatorios, no se puede saber cómo interactúan o funcionan y cómo es que los datos se transforman, presentando una falencia en sus “redes neuronales”. En este contexto, parece razonable la necesidad de su regulación.
En el Perú, tenemos la Ley n.º 31814 y el Decreto de Urgencia n.º 007-2020, que promueven el uso adecuado de la IA desde un punto de vista muy general. De forma más rigurosa, por ejemplo, China ha establecido mediante la ley que empresas que usen IA deben solicitar una licencia, facilitando al gobierno a acceder a todos los datos y código fuente de IA, y permitiendo la cancelación de servicios de IA que vayan en contra de la ética y moral.
Por ejemplo, en la Unión Europea, Brasil, Chile, Argentina, la Organización para la Cooperación y Desarrollo Económico, entre otros, han desarrollado principios y recomendaciones en el uso y desarrollo de la IA, en donde el principal criterio es que toda persona que utiliza la IA debe hacerlo bajo las observancias y obligaciones que establece la ley. Si bien es cierto, aún no hay nuevos tipos delictivos vinculados a la IA, no obstante, quizá su regulación no vaya a ser en un futuro muy distante.
Por todo ello, preocupa que ante los complejos escenarios tecnológicos y éticos que acarrean la revolución de la IA, nuestro contexto nacional e internacional, impulsa cada vez más programas formativos profesionales ausentes de una sólida educación moral. Y es que, un profesional sin valores es como “un mono con dos pistolas”, aunque suene grotesco. Sin duda, esta carrera industrial de la IA no parará, pero podemos asegurarnos de que nosotros y nuestros hijos desarrollemos criterios prudentes para el acceso a estas tecnologías, con el propósito de llevar a la humanidad a buen puerto.
Discusión sobre el post