D. Esteban Almirall.
Profesor titular del departamento de Operaciones, Innovación y Data Sciences en Esade.
Entrevista realizada por José Mª Camarero (Periodista económico) en el marco del Proyecto de ADICAE: “Los consumidores ante los nuevos avances tecnológicos y legislativos en el E-commerce”
¿Qué valoración le merece la Ley de Inteligencia Artificial aprobada en el seno de la Unión Europea? ¿Otorga una protección suficiente para el consumidor ante el reto que implica la IA para toda la sociedad?
La IA Act surgió al calor de una gran preocupación sobre nuestro futuro debido a la disrupción de la I.A. generativa. No acostumbra a ser una buena cosa legislar precipitadamente sobre un futuro que fundamentalmente desconocemos desde una perspectiva altamente ideológica.
Es más, este es un futuro que se está construyendo y se está construyendo en base a una fiera competencia entre bloques, lo que hace aún más complicado trazar sus aplicaciones y los límites de aplicación de la tecnología.
La tecnología no es un elemento neutro, se construye a partir de los usos creados por la sociedad. Sociedades diferentes tienen usos diferentes con valores diferentes. Si una sociedad carece de la soberanía tecnológica para participar en la construcción de esa tecnología, solo podrá adoptar la que se haya construido por otros, con la ideología y las voluntades de otros.
El gran problema de Europa no es la protección de derechos, es la falta de capacidad de innovar y competir en un espacio global, lo que se ha venido en llamar la “European Paradox”. La atención de las personas y las sociedades es limitada, focalizarla en los derechos resta capacidad para focalizarla en la innovación que es lo que Europa necesita con urgencia.
Sería importante que Europa se focalizase en sus problemas en vez de diluirlos con políticas que buscan afianzar aún más fortalezas existentes a costa de incrementar los problemas de competitividad.
¿Qué tipo de riesgos legales son los que debe afrontar la normativa relacionada en IA para que el ciudadano/consumidor no quede al albur del poder de la tecnología?
Es algo ingenuo pensar que la regulación es todopoderosa y va a proteger al ciudadano. Si el buscador dominante es Google, va a ser difícil que con regulación cambies su forma de proceder. Si es Baidu, no habrá regulación que haga que ese buscador indique que Tiananmen fue una matanza.
La regulación tiene límites y normalmente cercanos. Solo la soberanía tecnológica, tener alternativas y participar en la construcción de la tecnología de una forma activa puede asegurar que nuestro punto de vista esté representado.
La propia norma establece una clasificación de riesgos, un semáforo para que los ciudadanos sepan a qué atenerse. ¿Pueden sentirse seguros?
La IA Act es una regulación moderna que depende en buena medida de la implementación que realice una agencia que aún está por crear.
Pero como toda regulación podemos poner multas, hacer que determinadas funcionalidades no estén disponibles, etc … podemos restar a los productos existentes, pero no hay regulación en el mundo que permita crear los productos que necesitas con tu forma de pensar.
La regulación es un instrumento de diseño de mercados pero siempre muy limitado. Lo estamos viendo en leyes como la de la vivienda. Legislar que los españoles tienen derecho a una vivienda digna no crea viviendas, limitar los precios en un mercado estrecho como el del alquiler solo logra empantanarlo pero no los baja sustancialmente porque es incapaz de solucionar el problema de oferta. La legislación es un instrumento muy limitado.
¿Qué responsabilidad se otorga a las empresas que proporcionan productos y servicios basándose en IA para “guiar” al consumidor?
Depende de la clasificación de riesgo, privacidad de la información usada y consecuencias. En principio la recomendación en si, de películas, libros, etc … está clasificada como bajo riesgo.
¿Cómo puede distinguir un ciudadano un contenido/app que funciona con inteligencia artificial frente a las que no usan esta tecnología?
En muchos casos es imposible de distinguir.
¿Puede afectar la IA en la toma de decisiones de un ciudadano en mayor medida que otras tecnologías más vinculadas al pasado?
Por supuesto, especialmente la I.A. generativa porque es altamente persuasiva.
Con la norma europea en las manos, ¿está asegurada la privacidad de un ciudadano frente a la IA?
Si pudiésemos asegurar que se cumpliese la norma, hasta cierto punto sí. Pero debemos tener en cuenta que muchas características están correlacionadas y por lo tanto se pueden inferir a partir de otras.
¿Se ha conseguido regular la responsabilidad de las empresas que usan IA para adaptarla al ordenamiento jurídico de cada país, en este caso el de España?
La IA Act debe trasponerse en cada estado y al ser una norma de rango superior, modificar aquellas que entren en conflicto.
¿Qué ocurre cuando una tecnología de IA no cumple esta normativa europea, o cuando se trasponga en su caso a la nacional?
Dependerá del caso, pero en el extremo no se podrá usar en Europa.
¿Cuáles son las obligaciones relativas al marcado de agua y el etiquetado de la información de salida de inteligencia artificial establecidas en el Reglamento de Inteligencia Artificial?
La IA Act requiere que todo aquello generado por la IA tenga marcas de agua, algo difícilmente conseguible.
¿Cómo se regula la identificación biométrica? ¿Quedamos expuestos a lo que deseen realizar estas empresas o hay límites?
La identificación biométrica pública no está permitida, solo en organizaciones concretas o bajo autorización de un juez
