D. Emérito Martínez.

Director del Programa en Inteligencia Artificial Generativa & Business Innovation de EAE Madrid y Advisor Director en Jakala.

Entrevista realizada por José Mª Camarero (Periodista económico) en el marco del Proyecto de

ADICAE: “Los consumidores ante los nuevos avances tecnológicos y legislativos en el E-commerce”

¿De qué debemos fiarnos, y de qué no, cuando nos enfrentamos a una aplicación de IA?

Cuando nos enfrentamos a una aplicación de IA, debemos fiarnos de aquellas que se basan en principios de transparencia, responsabilidad y explicabilidad. Las aplicaciones que proporcionan explicaciones claras sobre cómo toman decisiones, cuáles son sus fuentes de datos y qué algoritmos utilizan, tienden a ser más confiables. Además, la fiabilidad también depende de que los desarrolladores hayan seguido estándares éticos y de privacidad rigurosos. En cambio, debemos desconfiar de aquellas aplicaciones de IA que operan como «cajas negras», donde el funcionamiento interno no es comprensible o accesible para los usuarios, ya que esto aumenta el riesgo de sesgos y decisiones erróneas.

¿Es correcta la regulación actual sobre la IA, tras la nueva Ley de Inteligencia Artificial europea?¿Se ha quedado corta o ha ido demasiado lejos?

La nueva Ley de Inteligencia Artificial de la Unión Europea es un paso fundamental hacia la regulación de esta tecnología. Si bien es una ley innovadora y exhaustiva, aún se enfrenta a desafíos en su implementación. En general, la ley no se ha quedado corta, pero debe mantenerse flexible para adaptarse a los rápidos avances de la tecnología. En ciertos aspectos, podría considerarse que es un poco conservadora, especialmente en términos de los plazos de transición para las empresas y las posibles limitaciones en la innovación. A medida que la IA evoluciona, la regulación debería ser revisada periódicamente para asegurar que no limite el potencial de desarrollo, pero que también proteja adecuadamente a los ciudadanos.

En muchos debates, la IA se expone como un riesgo brutal para la sociedad. En otros debates, solo se habla de las bondades de la tecnología. ¿Cuál es el punto óptimo en estas dos visiones antagónicas?

El punto óptimo se encuentra en un equilibrio, donde se reconozcan tanto los beneficios como los riesgos de la IA. La IA puede mejorar muchos aspectos de la sociedad, como la eficiencia en el trabajo, la mejora de la salud y la educación, o la solución de problemas complejos. Sin embargo, los riesgos asociados, como la automatización descontrolada, el aumento de la desigualdad o la invasión de la privacidad, no deben ser subestimados. La clave está en la regulación, la transparencia y el desarrollo ético, asegurando que los beneficios se maximicen y los riesgos se mitiguen adecuadamente.

¿Cómo debemos clasificar y definir los riesgos de la IA para el consumidor, ante un impacto tan extenso como el que tiene esta tecnología actualmente?

Los riesgos de la IA para el consumidor deben clasificarse en varias categorías:

• Riesgos de privacidad y seguridad: Relacionados con la recopilación masiva de datos y la posibilidad de que la IA los utilice de manera indebida o sea hackeada.

• Riesgos de discriminación y sesgo: Cuando los sistemas de IA reproducen o amplifican prejuicios preexistentes en los datos que se les proporcionan, lo que puede afectar negativamente a ciertos grupos.

• Riesgos de dependencia y autonomía: El miedo a que las personas se vuelvan excesivamente dependientes de los sistemas automatizados, perdiendo capacidades críticas o volviéndose vulnerables a manipulaciones.

• Riesgos de impacto en el empleo: La automatización de trabajos podría generar pérdidas de empleo o cambios en el mercado laboral sin una adecuada preparación.

• Es esencial que se identifiquen, gestionen y monitoreen estos riesgos a medida que la tecnología se despliega.

¿Los ciudadanos se encuentran ahora más desprotegidos que antes ante lo que les ofrece la IA?

En algunos aspectos, los ciudadanos podrían estar más desprotegidos, ya que la IA está invadiendo sectores que antes no eran tan sensibles, como la salud, la educación y la seguridad pública. A pesar de la regulación europea, aún existen vacíos en cuanto a la implementación efectiva de las leyes y la concienciación pública. Los usuarios no siempre tienen el conocimiento o las herramientas necesarias para identificar cuando sus datos están siendo mal utilizados, o cómo las decisiones de la IA pueden afectarlos. Es por ello que se necesita un marco de protección más robusto, tanto a nivel de legislación como de educación digital para los ciudadanos.

¿Cómo se establece hasta dónde llega la ética de la IA?

La ética de la IA debe ser guiada por principios fundamentales como la equidad, la transparencia, la privacidad y el respeto por los derechos humanos. Estos principios deben ser adaptados a las particularidades de la tecnología y deben ser revisados continuamente, ya que la IA evoluciona rápidamente. Es fundamental que se desarrollen códigos éticos y que las aplicaciones de IA sean auditadas regularmente. Las decisiones éticas de la IA no solo deben ser implementadas por los desarrolladores, sino también por reguladores y organismos independientes, para garantizar que se mantengan alineadas con los valores sociales y democráticos.

Para muchos ciudadanos, sobre todo jóvenes, ChatGPT se ha convertido en una tecnología básica en su día a día. ¿Nos podemos fiar de todo lo que nos diga esta herramienta?

Aunque herramientas como ChatGPT son útiles y avanzadas, los usuarios deben ser conscientes de que no siempre son 100% precisas o infalibles. El modelo está entrenado en grandes volúmenes de datos, pero no puede verificar la veracidad de toda la información que procesa. A veces, puede generar respuestas incorrectas, sesgadas o incluso fabricar hechos. Es importante que los usuarios utilicen herramientas como ChatGPT como una fuente complementaria de información, verificando siempre los datos en fuentes confiables y usando el sentido crítico.

¿Cómo se debe desarrollar la IA para que no caiga en un pozo repleto de mentiras y muera de éxito?

La IA debe desarrollarse con un enfoque de calidad sobre cantidad, priorizando la veracidad y la precisión sobre la velocidad o la escala. Para evitar la propagación de mentiras, los algoritmos deben ser diseñados con filtros robustos de verificación de hechos, fuentes confiables y mecanismos para detectar desinformación. Además, se debe fomentar la cooperación entre desarrolladores, científicos, gobiernos y la sociedad civil para crear un ecosistema de IA que valore la transparencia y la ética.

¿Qué acciones debe ejercitar la Administración española para poner en la práctica el reglamento europeo adaptándolo a la realidad de nuestro país?

La Administración española debe garantizar que el marco legal europeo se implemente de manera efectiva a nivel nacional, proporcionando guías claras para las empresas y ciudadanos. Esto incluye establecer protocolos para la auditoría de la IA, formar a los funcionarios públicos sobre la gestión de la IA, y promover una cultura de transparencia y rendición de cuentas. Además, la Administración debe fomentar la investigación y el desarrollo de IA ética y responsable, apoyando a las startups tecnológicas españolas que apuesten por soluciones innovadoras pero seguras.

¿Pueden ejercer los poderes públicos en España determinadas acciones legales para evitar un impacto negativo de la IA en los consumidores?

Sí, los poderes públicos en España tienen la capacidad de implementar políticas que garanticen la protección del consumidor. Pueden establecer normativas estrictas sobre la recopilación de datos, la transparencia en los algoritmos, y la obligación de las empresas de asumir la responsabilidad por los daños causados por la IA. Además, pueden crear mecanismos de supervisión y sanciones a aquellas empresas que no respeten las normas éticas y legales, contribuyendo a un entorno más seguro para los consumidores.

¿Qué recomendación haría para abordar la creciente demanda de profesionales cualificados en IA?

La demanda de expertos en IA va a seguir creciendo a un ritmo acelerado, y es imprescindible que tanto las instituciones educativas como las empresas y el sector público trabajen de manera conjunta para ofrecer programas de formación actualizados y accesibles. No solo se trata de impartir conocimientos técnicos, sino

también de fomentar habilidades transversales como la ética, la responsabilidad y la comprensión del impacto social de la IA.

Es vital que los programas formativos se adapten a las necesidades del mercado y que los profesionales se certifiquen en competencias clave que les permitan no solo desarrollar tecnología, sino también comprender cómo gestionarla de manera ética y responsable. La formación debe ser un pilar fundamental para asegurar que la transición hacia un mundo cada vez más automatizado se haga de forma inclusiva y segura. Así, los profesionales estarán mejor preparados para ofrecer soluciones óptimas a los problemas que surjan, y contribuirán a que la IA sea una herramienta beneficiosa para toda la sociedad.

D. Carlos Vizoso.

CTO de ESIC University.

Entrevista realizada por José Mª Camarero (Periodista económico) en el marco del Proyecto de ADICAE: “Los consumidores ante los nuevos avances tecnológicos y legislativos en el E-commerce”

¿De qué debemos fiarnos, y de qué no, cuando nos enfrentamos a una aplicación de IA?

Tenemos que confiar en aplicaciones de IA cuando son transparentes en su política de recopilación de información, fuentes y en el propio modelo. Que estén diseñadas o certificadas bajo GPR compliance o que han demostrado con el tiempo precisión consistente sobre los resultados.

En este sentido, creo que las personas tenemos que tener el suficiente criterio para saber cuando estamos proporcionando información a este tipo de aplicaciones, cuando esta información está siendo utilizada para entrenar su modelo y por ente, que política de privacidad y contrato de servicio estamos aceptando al utilizarlas.

Si tras este análisis, vemos que no hay ninguna explicación clara sobre cómo funciona su modelo, los resultados carecen de validez o de fuentes verificables y/o existen conflictos de interés o riesgos de manipulación de datos, probablemente sean aspectos suficientes como para no confiar en esa aplicación.

¿Es correcta la regulación actual sobre la IA, tras la nueva Ley de Inteligencia Artificial europea?¿Se ha quedado corta o ha ido demasiado lejos?

En mi opinión creo que la regulación de la inteligencia artificial en Europa es un gran paso desde el prisma de protección de derechos fundamentales de los ciudadanos, sostenido en garantizar una inteligencia artificial segura, transparente y ética. Es importante tener un marco regulatorio, lo más flexible posible para poder garantizar de forma transparente la protección de dichos derechos fundamentales. Ahora bien, pienso que la ley como está desarrollada actualmente puede ser insuficiente ante la evolución exponencial tecnológica en la que nos encontramos.

La innovación avanza más rápido que algunas disposiciones de la ley, lo que implica que queden desactualizadas en poco tiempo. Además veo muy complejo la gestión desde el prisma del cumplimiento en muchas empresas. Asegurar que todas las empresas cumplan con los nuevos estándares va a ser un verdadero desafío, especialmente en sectores con menos recursos económicos.

En muchos debates, la IA se expone como un riesgo brutal para la sociedad. En otros debates, solo se habla de las bondades de la tecnología. ¿Cuál es el punto óptimo en estas dos visiones antagónicas?

Desde mi punto de vista, el equilibrio radica en varios enfoques, uno orientado a los riesgos reales( desinformación, sesgos, pérdida de empleo o reemplazo por agentes autónomos) y ventajas desde el prisma de eficiencia, usabilidad e innovación y otro desde su uso ético mediante políticas claras y educación digital.

Por ejemplo, no es lo mismo un sistema de spam en nuestro gestor de correo electrónico con un índice de riesgo mínimo que un sistema de puntuación social por parte de un ente gubernamental para la manipulación parcial o total de la sociedad.

¿Cómo debemos clasificar y definir los riesgos de la IA para el consumidor, ante un impacto tan extenso como el que tiene esta tecnología actualmente?

Por definir una clasificación ponderada en base a los enfoques anteriores, nos encontramos con cuatro categorías de riesgos:

• Riesgo mínimo. Sistemas de IA que presentan un riesgo muy bajo para los derechos y la seguridad de los
• Riesgo limitado. Sistemas de IA que puedan tener un impacto moderado pero gestionado por
• Alto Sistemas de IA que puedan afectar total o parcialmente a los derechos fundamentales o seguridad de las personas.
• Riesgo Sistemas de IA que representan un riesgo inadmisible en la sociedad.

¿Los ciudadanos se encuentran ahora más desprotegidos que antes ante lo que les ofrece la IA?

Habría que delimitar qué entendemos por antes, ya que muchos de los ecosistemas, aplicaciones y servicios que utilizamos en nuestro día a día ya utilizaban IA desde antes de lo que pensamos. En mi opinión, desde la democratización de la IA generativa gracias a la puesta en marcha de midjourney y chat GPT, los usuarios son conscientes de estas tecnologías y por ende, pueden sentirse más desprotegidos en algunos aspectos.

A día de hoy el usuario puede sentir que está expuesto a un alto nivel de desinformación en las redes sociales y medios, contenidos manipulados (voice fakes o deepfakes) y en muchos casos, la ausencia de mecanismos para la rectificación de errores generados por la IA en muchas de las aplicaciones que usamos. Por ello, pienso que el criterio y la educación digital para sentirse más cómodo ante una realidad exponencial como la que estamos viviendo, es aún más importante ahora mismo.

¿Cómo se establece hasta dónde llega la ética de la IA?

Si nos basamos en los principios fundamentales de transparencia, responsabilidad, justicia, privacidad y no maleficencia, podemos afirmar que son los ingredientes necesarios para establecer un diseño, implementación y supervisión desde el prisma ético en cualquier modelo de inteligencia artificial.

Buscando un equilibrio desde este conjunto de principios sobre el desarrollo responsable tecnológico con la protección de los derechos humanos y la seguridad de los mismos.

Para muchos ciudadanos, sobre todo jóvenes, ChatGPT se ha convertido en una tecnología básica en su día a día. ¿Nos podemos fiar de todo lo que nos diga esta herramienta?

Desde mi punto de vista, es importante entender que chatgpt, copilot o cualquier otra aplicación de IA generativa puede ser nuestro copiloto perfecto pero para poder usarla de una forma correcta lo más importante es tener un enfoque crítico sobre la solución que nos está ofreciendo. El criterio es la base de empoderamiento y optimización real apoyado, eso sí, por la tecnología.

Si no tenemos un enfoque crítico sobre lo que estamos consultando probablemente obtengamos imprecisiones ocasionadas por el entrenamiento del modelo, falta de información o incluso interpretaciones erróneas de temas tan importantes como las emociones o la ética. Chat GPT no tiene emociones y a día de hoy tampoco tiene una comprensión profunda de las experiencias humanas, por lo que sus respuestas en estos ámbitos pueden no ser correctas ni precisas.

Creo que es importante que las personas utilicemos estas herramientas como una herramienta en la que apoyarnos en nuestro día a día pero siempre teniendo en cuenta el enfoque crítico mencionado en unas líneas más arriba, verificando la información obtenida y elevando las consultas a otros profesionales o foros en el caso de ser necesario para evitar una interpretación equivoca.

¿Cómo se debe desarrollar la IA para que no caiga en un pozo repleto de mentiras y muera de éxito?

La estrategia de IA de una compañía, producto o servicio lo definen las fuentes de datos que habilitan al modelo para poder dar una respuesta a cualquier pregunta para la que ha sido entrenada.

Es decir, para que una IA pueda aportar valor a los usuarios y seamos capaces de evitar que las respuestas sean lo más verificadas posibles, la IA debe desarrollarse bajo tres enfoques:

Información verificada y de calidad como gasolina de nuestro modelo

Audit interno y externo de revisión de casuísticas y soluciones para identificar y corregir Podemos incluso utilizar otra IA para ello.

Educación digital para nuestros usuarios delimitando los usos y las expectativas sobre la tecnología.

¿Qué acciones debe ejercitar la Administración española para poner en la práctica el reglamento europeo adaptándolo a la realidad de nuestro país?

Como en cualquier otro gran proyecto de digitalización creo que la administración pública española tendrá que crear un organismo nacional que supervise el cumplimiento del reglamento y sea capaz de ayudar y evangelizar sobre dicho reglamento.

Por otro lado, proporcionar incentivos a las empresas para poder adaptar sus ecosistemas a estas nuevas normativas.

Y por último, evangelizar con el ejemplo desde el prisma de las administraciones públicas y establecer una campaña de educación digital a los ciudadanos y empresas.

¿Pueden ejercer los poderes públicos en España determinadas acciones legales para evitar un impacto negativo de la IA en los consumidores

Desde un punto de acciones legales, los poderes públicos pueden evitar un impacto negativo de la IA en los consumidores gracias a la implementación de sanciones claras ante abusos o errores ocasionadas por estas plataformas, regulando la privacidad y la protección de los datos personales de la ciudadanía, estableciendo responsabilidades claras sobre las empresas y servicios que haga uso interno y externo de estas tecnologías e invirtiendo en una monitorización sobre las soluciones utilizadas en el marco nacional desde el prisma ético y transparente.

Ahora bien, como he comentado en preguntas anteriores, la complejidad de poder monitorizar dicha regulación con un crecimiento exponencial de una tecnología en auge y cada vez más democratizada será un reto para las administraciones públicas del presente y del futuro.

¿La regulación de la IA va ya por detrás de la realidad, de lo que viven los ciudadanos en su día a día?

En muchos aspectos, si. Muchos ciudadanos, a día de hoy no saben si la aplicación que están utilizando es GPRD compliance, si hace una transferencia internacional de su información o incluso en muchas ocasiones desconocemos a dónde viajan nuestros datos en estas aplicaciones, así como la gestión de las mismas.

En una sociedad cada vez más dirigida a resultados, inmediata y donde la IA nos proporciona de forma ágil una respuesta a nuestros problemas, creo que tenemos un gran reto de educación digital y enfoque de criterio sobre el uso y la demanda de servicios en estas aplicaciones.

¿Cuál debe ser esa regulación a partir de ahora? ¿Son los ciudadanos más vulnerables socialmente los más expuestos a estos peligros de la IA?

No sabría decir exactamente la regulación idílica pero sí los ingredientes que componen una receta de regulación que puede evitar en gran parte dichas vulnerabilidades.

En este sentido, creo que debemos fomentar un marco flexible con revisiones periódicas adaptadas a los grandes avances tecnológicos en los modelos que usamos en nuestro día a día, incluir regulaciones globales, ya que la IA trasciende fronteras más allá de la Unión Europea y por último, desarrollar normas específicas que den respuesta a la evolución exponencial de la inteligencia artificial junto a equipos de trabajo compuesto por expertos en esta materia de empresas tecnológicas globales.