Ir al contenido
Alfio Guido Grasso, profesor e investigador de Derecho Privado en la Università degli Studi di Catania (Italia), consideró que el diseño de plataformas sociales como Meta puede provocar adicciones en menores de edad.
Esta es una de las conclusiones a las que llegó durante su exposición en las III Jornadas Latinoamericanas de Derecho y Tecnología y II Jornadas Internacionales de Derecho, IA y Gobierno organizadas por la Departamento de Derecho y Ciencia Política de la Universidad Católica San Pablo (UCSP).
Durante el encuentro se analizó la demanda presentada por una joven de 20 años contra Instagram por provocarle adicción.
Por ese caso, un tribunal superior de Los Ángeles (EE.UU.) penalizó a Meta a pagar dos millones de dólares a la demandante.
El investigador italiano informó que en este proceso la joven no precisó qué contenidos le causaron adicción, sino que se estableció “que la plataforma estaba diseñada para hacer difícil dejarla”. Del mismo modo, dijo que se acreditó que los controles parentales no fueron suficientes para evitar esta dependencia.
“La arquitectura propone un desplazamiento infinito, resolución automática de los videos, algoritmos de recomendaciones y filtros estéticos que solos no son peligrosos, pero juntos conforman un diseño capaz de prever el comportamiento del usuario y llevarlo hacia un uso compulsivo y prolongado”, explicó.
En agosto pasado, Meta llegó a un acuerdo para pagar 18 000 millones de dólares por las demandas presentadas en 29 estados de Estados Unidos, que acusaban a Facebook e Instagram de diseñar plataformas adictivas y dañar la salud mental de menores de edad.
Según el investigador, este caso ejemplifica un cambio de paradigma profundo debido a que se considera que la red social ya no es un agente neutral, sino intencional.
“Si el daño no procede de lo que circula en la plataforma, sino en cómo la plataforma ha sido construida, entonces ya no responde como intermediaria, sino por lo que ella misma ha diseñado”, indicó.
Esta idea calza en la esencia de la normativa europea, que no considera a las redes sociales como simples intermediarios pasivos, dado que sus algoritmos seleccionan, ordenan y proponen los contenidos a cada usuario según su perfil. “En esa operación hay una decisión de la plataforma que la sitúa fuera de la intermediación neutral”, sostuvo el investigador.
Por eso, Europa se anticipa al daño e impone obligaciones sobre el diseño, obligando a las redes sociales a evaluar y mitigar los potenciales daños, principalmente a menores de edad; sin embargo, un reciente informe señaló que ni Facebook ni Instagram respetan estas disposiciones.
Pese a estos cuestionamientos, Grasso no se mostró a favor de las propuestas que prohíben el uso de redes sociales para menores de edad; al contrario, propuso trabajar más en la prevención y presionar para que mejoren su arquitectura.
Las III Jornadas Latinoamericanas de Derecho y Tecnología y las II Jornadas Internacionales de Derecho, IA y Gobierno se realizaron del 14 al 15 de octubre en la San Pablo.
Durante esta presentación también se abordaron otras problemáticas vinculadas a la tecnología, como los despidos de trabajadores a raíz de la incorporación de la inteligencia artificial en el ámbito laboral, tema expuesto por Ana Belén Ponce Escobedo, directora académica del Círculo de Estudios en Derecho Laboral de la San Pablo.
Actualmente, los empleados están siendo cesados debido a que sus tareas fueron reemplazadas por esta tecnología. En ese sentido, hizo propuestas para regular esta problemática.
La empresa debería asumir programas de formación y adaptación para que el trabajador se acople a la IA. “Los cambios en el mercado laboral deberían ser asumidos por el empleador”, señaló Ponce Escobedo.
También sugirió regular el despido por causal tecnológica, siempre y cuando el trabajador incumpla con las capacitaciones promovidas por la empresa.
Además, es importante que la empresa mantenga un diálogo con los sindicatos para acordar las medidas apropiadas, a efectos de manejar estos cambios. La expositora pidió no descartar los pagos sociales o rentas universales de apoyo para el trabajador cesado.
Por su parte, la abogada Alexandra Espinoza Montero expuso sobre los sistemas biométricos para identificar a los clientes y trabajadores. En este caso, identificó contradicciones en las normativas que podrían desalentar la identificación con ayuda de la IA que pide la ley.
En ese sentido, recomendó conversar, integrar las normas y tomar decisiones en función de la realidad y las necesidades existentes.
Finalmente, Claudia Benanti, profesora asociada de Derecho Privado en la Università degli Studi di Catania, consideró que al momento de identificar responsabilidades en el sector médico por el uso de la IA en los diagnósticos se debe identificar las pruebas: documentación clínica, instrucciones, registros, actualizaciones y complicaciones.
También se debe verificar si el médico estaba preparado para reconocer errores e intervenir en el sistema de IA. Además, se tiene que investigar si la organización del centro sanitario recibió la información adecuada del producto, entre otras informaciones.
