Carme Artigas: "El gran derecho amenazado por la IA es la libertad de formarse una opinión propia"

"Dependemos de las energéticas y también las regulamos". Es el ejemplo con el que Carme Artigas defiende que Europa puede establecer sus propias reglas frente a las grandes compañías tecnológicas, pese a depender de sus modelos e infraestructuras. En esta conversación con Agenda Pública durante el Foro La Toja, la experta reclama que la Unión Europea decida qué parte de la cadena de valor de la inteligencia artificial quiere controlar, con especial atención a la energía y los datos industriales.

Artigas fue secretaria de Estado de Digitalización e Inteligencia Artificial entre 2020 y 2023, periodo en el que participó en las negociaciones del Reglamento europeo de IA. Posteriormente, copresidió el órgano asesor de Naciones Unidas sobre esta tecnología. Actualmente es investigadora del Centro Belfer de Harvard y operating partner de Nazca Capital, donde preside su comité tecnológico.

Ante la carrera tecnológica entre Estados Unidos y China, Artigas apuesta por una gobernanza internacional que permita establecer estándares comunes de seguridad y supervisar de manera independiente los modelos de inteligencia artificial. También alerta de la concentración de poder en las grandes tecnológicas y de sus consecuencias para los derechos fundamentales.

"La inteligencia artificial ni perjudica ni mejora la democracia", sostiene. A su juicio, lo importante es cómo deben adaptarse las instituciones para controlar las nuevas formas de poder que genera esta tecnología. Asimismo, tenemos tiempo para abordar otros temas como los riesgos de manipulación de la opinión pública y la exposición de los jóvenes a los modelos de lenguaje, especialmente cuando los utilizan para consultar problemas de salud mental.
 
¿Quién controla hoy el poder tecnológico de la inteligencia artificial?

La inteligencia artificial es más que una tecnología. Es una infraestructura que abarca desde la infraestructura física y energética hasta las capacidades de computación, el diseño de chips, el desarrollo de los modelos y también los datos. Cada una de estas capas tiene unos players nuevos.

Lo que está cambiando la tecnología es el equilibrio de poder entre unos países y otros, porque algunos tienen materias primas críticas, como las tierras raras, o capacidades únicas de producción, como puede ser la producción de chips. Pero también aparecen por primera vez players privados que pueden disputarles a esos gobiernos esa capacidad de control de la tecnología.

Eso es algo que ya estamos entendiendo que, desde un punto de vista político, define la nueva competencia global. Básicamente, vemos a dos grandes polos, Estados Unidos y China, que compiten por una supremacía de la inteligencia artificial porque, en el fondo, se pretende una supremacía económica y militar.

Cuando hablamos de soberanía tecnológica europea, lo que estamos diciendo es qué rol tiene Europa en ese contexto. Y aquí la solución no consiste en reproducir todo este stack de manera única, porque eso es imposible. Venimos de treinta o cuarenta años de colaboración y de cadenas de valor globales, y no se pueden sustituir. Tampoco Estados Unidos puede producirlo todo.

Lo que tiene que hacer Europa es una apuesta estratégica sobre qué parte de esta cadena de valor quiere controlar. Yo creo que la apuesta fuerte de Europa es el control de la infraestructura energética y el control de esos datos industriales.

En plena competencia entre potencias, ¿sigue siendo realista pensar en una gobernanza tecnológica global?

No solamente es necesario, es más necesario que nunca. Tampoco tenemos que confundir el hecho de que sean tecnologías de uso dual con que tengamos que regular de la misma manera los usos civiles y los usos militares.

"La apuesta fuerte de Europa es el control de la infraestructura energética y el control de esos datos industriales"

Además, estamos viendo que las propias compañías tecnológicas que se habían opuesto tradicionalmente a la regulación ahora están entendiendo que sin regulación tampoco puedes desarrollar una industria con la confianza y la seguridad necesarias para su adopción. Y, al final, todos queremos que esto se adopte porque ahí es donde está el negocio.

Pienso que se están dando cuenta de que es una tecnología absolutamente transversal que ninguna compañía por sí misma y ningún país por sí mismo van a poder regular. De hecho, en la reunión de Xi Jinping y Trump acordaron entre ellos intercambiar información sobre incidentes de seguridad, pero hace tiempo que estamos viendo que esto supera la bilateralidad de dos países.

"Se están dando cuenta de que es una tecnología absolutamente transversal que ninguna compañía por sí misma y ningún país por sí mismo van a poder regular"

Tenemos que incorporar elementos de gobernanza internacional que ya existen en otras industrias, como el control de armas o el control de la energía nuclear. Por lo tanto, no tenemos que inventar nada nuevo: las instituciones ya existen. Si realmente la industria está de acuerdo en que debe haber una regulación, lo que tiene que hacer es no intentar regularse a sí misma, sino abrir sus empresas y sus centros de desarrollo para que terceros independientes puedan evaluar estos modelos y decidir en qué condiciones se pueden desplegar o no.

Cuestiones de seguridad internacional las ha habido siempre. Existen también en el mundo de la ciberseguridad. Por lo tanto, tampoco es una problemática nueva.
 
Existe una tensión evidente: queremos limitar el poder de las grandes tecnológicas, pero al mismo tiempo necesitamos su capital, sus modelos y su infraestructura para competir en inteligencia artificial. ¿Cómo puede Europa regular a empresas de las que, en cierto sentido, depende?

Dependemos de las energéticas y también las regulamos. Siempre pongo el énfasis en que lo importante en una revolución es la gobernanza. La gobernanza consiste en definir cuáles son los instrumentos y los sistemas que podemos poner en marcha para asegurarnos de que no haya un abuso de poder, de que exista accesibilidad a recursos fundamentales y de que haya un control frente a los daños físicos, los daños mentales y los daños a los derechos fundamentales. Así hemos regulado todas las tecnologías.

Lo que ocurre es que esta tiene una presencia mucho más penetrante. Y lo que tenemos que hacer —la Unión Europea lo ha hecho siempre— es definir las normas del juego en nuestro territorio. No podemos meternos en el territorio de los demás. A nivel de mercado o de derechos fundamentales, hay cosas que son aceptables en otras latitudes y no son aceptables en nuestro contexto europeo. Por ejemplo, a nivel de libertades o del uso de esas tecnologías por parte de los poderes públicos para controlar a la población. Esto no lo aceptamos aunque sea técnicamente factible.

Por lo tanto, tenemos derecho a definir cuáles son las reglas por las que queremos regirnos. Pero hay cosas que sí se tienen que acordar a nivel internacional. Se tienen que acordar los estándares de seguridad. Tú puedes competir por cuota de mercado, puedes competir por ser el más innovador, pero no puedes competir por los derechos fundamentales. No podemos entrar en una batalla hacia el mínimo común denominador en la que no garanticemos que se cumplen la ley internacional, los derechos humanos o la Carta de las Naciones Unidas.

"Tú puedes competir por cuota de mercado, puedes competir por ser el más innovador, pero no puedes competir por los derechos fundamentales"

La competencia está muy bien, pero no podemos competir por la seguridad de las personas. Tenemos que trabajar juntos para definir una matriz de riesgo común que compartamos y, sobre todo, un estándar de seguridad y un estándar de interoperabilidad. Tampoco va a funcionar si existen tres regiones distintas con estándares técnicos distintos.

Al final, es una tecnología que puede aportar grandes beneficios a la humanidad y no hay ninguna razón para no poder hacerlo bien a la primera. Porque, si no das confianza a la gente o a las industrias, no la van a adoptar.

Hace unos años defendía que la IA podía servir para que los ciudadanos controlasen mejor a gobiernos y grandes empresas. Hoy vemos también que gobiernos y empresas pueden utilizarla para conocer, persuadir o vigilar mejor a la ciudadanía. ¿Se ha invertido el paradigma?

La inteligencia artificial ni perjudica ni mejora la democracia. Lo que ocurre es que la democracia está basada en garantizar los derechos fundamentales, garantizar la participación ciudadana y la agencia ciudadana, y controlar el exceso de poder.

Lo que está pasando es que la IA genera nuevos ejes de poder. Lo que tenemos que ver es cómo renovamos las instituciones democráticas para poder poner límites a ese nuevo tipo de poder que ejerce la IA.

Hay ejemplos para todo. Hay ejemplos donde la inteligencia artificial está ayudando a procesos mucho más abiertos y colaborativos. Un ejemplo es Taiwán, donde utilizan la IA o herramientas como Polis para poder tener una mayor participación ciudadana en la decisión de políticas públicas.

Y luego, evidentemente, está ese nuevo tipo de poder. No estamos hablando solo de la libertad de expresión y del excesivo peso de los algoritmos en las redes sociales, sino, sobre todo, de la intermediación en la forma de formarte una opinión propia. Creo que el gran derecho que está en cuestión no es la libertad de expresión, sino la libertad de formarte una opinión independiente, porque están mediatizando las creencias y la creación de opinión.

"El gran derecho que está en cuestión no es la libertad de expresión, sino la libertad de formarte una opinión independiente, porque están mediatizando las creencias y la creación de opinión"

La propia propuesta europea de inteligencia artificial considera como uso prohibido la manipulación del pensamiento mediante herramientas de IA. Esto ya lo estamos viendo a nivel de influencia de la información. Imagínate cuando te puedan poner un chip y manipularte la mente directamente.

Pero hay usos que ya conocemos y que sabemos cómo controlar y regular. Lo mismo ocurre con los monopolios. Siempre pongo el mismo ejemplo: un monopolio vertical sería que el dueño de la autopista fuera también el dueño del peaje, del camión y de las manzanas que transporta. Eso ya sabemos cómo regularlo. El problema es que, en el ámbito tecnológico, la concentración de poder va aún más allá: los propietarios de las grandes compañías tecnológicas controlan también las plataformas digitales y los medios digitales de información, están comprando medios de comunicación tradicionales y, además, participan en la industria militar.

Si esto no es un monopolio, ¿qué va a ser? Es un monopolio más horizontal y, por lo tanto, se tiene que regular. No hace falta que venga la inteligencia artificial para explicarnos cómo se regulan los cárteles o los monopolios, porque eso ya existe. Se trata de aplicarlo.

"No hace falta que venga la inteligencia artificial para explicarnos cómo se regulan los cárteles o los monopolios, porque eso ya existe"

Creo que vamos a ver una tendencia a poner límites con mecanismos que ya existen. El tema está en entenderlos y aplicarlos. Y no se quieren aplicar por la batalla geopolítica que obliga, sobre todo, a estas dos potencias, Estados Unidos y China, que han decidido que esto se tiene que ganar en un año y medio.

Si les dieran cinco o diez años para desarrollar esto, podríamos dar tiempo a las industrias tecnológicas para hacer las cosas bien, para no lanzar un producto sin los necesarios controles de seguridad. Pero ¿qué podrían hacer en cinco años? ¿Qué tienen que hacer en un año y medio?
 
¿Qué límites debería poner una democracia al uso de la inteligencia artificial, especialmente cuando están en juego la intimidad y la salud mental?

Tenemos que empezar a controlar qué tipo de información pueden dar esos sistemas. A mí me preocupa muchísimo el uso que hacen los jóvenes de esas redes sociales, sobre todo cuando estamos viendo a más chicas que chicos consultando problemas psicológicos y mentales a una red social, en este caso a un modelo de lenguaje, a ChatGPT.

Tenemos que empezar a educar en que, cuando tú estás contando tu problema a una red social o a un modelo de lenguaje, por mucho que te parezca que estás hablando con una persona, estás regalando tu intimidad a una empresa. Y una empresa no es una ONG. Una empresa va a monetizar esa información.

"Por mucho que te parezca que estás hablando con una persona, estás regalando tu intimidad a una empresa"

¿Y cómo la va a monetizar? La va a utilizar para venderte cosas o, si es un mal actor, para extorsionarte. Por lo tanto, tenemos que ser muy conscientes y exigir que, de la misma manera que si a esos modelos les digo "ayúdame a diseñar una bomba casera", me van a contestar "no te puedo responder a esta pregunta", cuando alguien diga "estoy deprimido, ¿qué me recomiendas hacer?", te tengan que decir: "No puedo contestarte a esta pregunta. Llama a este teléfono, llama a este experto".

Hablar de estos safeguards, de estos límites, también implica eso: para qué usos son adecuadas esas tecnologías y para cuáles no.

Yo soy creyente del valor positivo de la tecnología. Tenemos que centrarnos más en cómo utilizamos esta tecnología para el bien común, para los grandes problemas de la humanidad, y centrarnos menos en la tentación del control y del poder económico.

"Tenemos que centrarnos más en cómo utilizamos esta tecnología para el bien común, para los grandes problemas de la humanidad"

También es la razón por la cual estoy absolutamente en contra de esa personalización de la IA, de los amigos de la IA, de los novios y novias de la IA, porque detrás de eso hay un interés de control social.

Dentro de diez años, ¿qué decisión sobre la IA podría parecernos hoy más irresponsable?

Pienso que no podemos dejar que la inteligencia artificial se desarrolle sin cortapisas, sin definir usos prohibidos e indebidos de la IA. No todo lo que técnicamente es posible debe hacerse. Hay que establecer requerimientos de seguridad y asegurarnos también de que los gobiernos y los poderes públicos utilicen la IA sin convertirla en una herramienta de control social.

Muchas gracias.