Carissa Véliz: "El comercio de datos es tóxico para la democracia"

Viernes 3 de octubre. 9:20 horas en el Gran Hotel La Toja. La filósofa hispano-mexicano-británica Carissa Véliz cita a Agenda Pública para compartir un café y hablar de tecnología y geopolítica, el tema que abordará en unas horas —junto al catedrático de Física del MIT Pablo Jarrillo-Herrero— en una mesa redonda en el Foro La Toja.

La también profesora de la Universidad de Oxford está especializada en ética digital, con un énfasis en la privacidad y la ética de la inteligencia artificial (IA), y en políticas públicas. En línea con su libro Privacidad es poder (Debate), se resiste a considerar los datos "el oro del siglo veintiuno" porque al venderlos sigues teniéndolos y se replican, sin tener en cuenta a otros. "El comercio de datos es tóxico para la democracia de una manera que el comercio del oro, no. Nos hace vulnerables. Los datos personales son muy sensibles y es muy fácil utilizarlos para hacer daño. Es cuestión de tiempo que alguien los utilice de una mala manera", advierte.

Para tomar este café me ha citado por Signal, ¿por qué?
 
Porque evito WhatsApp como la plaga. Signal es una app de mensajes que funciona también, como cualquiera que puedas tener, pero que no recolecta tus datos. Solamente recolecta dos datos en toda la historia de tus interacciones: tu teléfono y la última vez que te conectas. Es decir, no recaba el contenido de mensajes ni con quién te estás escribiendo. Y hay mucha gente que me pregunta: "¿Cómo sabes que es así? ¿Cómo puedes confiar en ellos?". Es una muy buena pregunta, porque en este ámbito tenemos la experiencia de que las empresas a veces mienten, pero, en este caso, hay una prueba: en Estados Unidos ha habido citaciones para que diera información y esos son los únicos dos datos que tiene.
 
La instalé hace años, por una buena amiga periodista especializada en migraciones que quería compartir conmigo una información sensible…
 
Me parece superimportante que los periodistas, en particular, tengan apps así porque, si una fuente quiere acercarse a ti y es un tema sensible, no puede escribirte a tu mail ni a otras aplicaciones de mensajería, no va a ir a tu oficina… Su trabajo en los últimos años se ha centrado en los datos y ha publicado Privacidad es poder. ¿Los datos son el oro del siglo veintiuno como se suele decir?
 
No, eso es lo que quieren que creamos, pero los datos y el oro o el petróleo, que es otra analogía que se usa mucho, no son comparables. El petróleo o el oro son objetos que si yo vendo a alguien ya no los tengo. Si yo te doy un pedazo de oro, tú eres el dueño. Pero con los datos no es así porque, cuando yo comparto datos, me los quedo. Entonces, en realidad, los estamos replicando. Además, yo no soy la dueña moral de los datos, ni siquiera si los creé y son sobre mí, porque esos datos también contienen información sobre otras personas.

Si yo te doy información sobre el sitio donde vivo, también te estoy dando información sobre mis vecinos y ellos no han consentido que yo dé esa información. Si te doy mis datos genéticos, estoy compartiendo la información de mi familia sin que lo sepan, sin que hayan dado consentimiento. El comercio de datos es tóxico para la democracia de una manera que el comercio del oro, no. Nos hace vulnerables. Los datos personales son muy sensibles y es muy fácil utilizarlos para hacer daño. Es cuestión de tiempo que alguien los utilice de una mala manera.
 
Sí empieza a haber cierta conciencia de las implicaciones del uso indiscriminado de los datos. ¿Qué opinión le merece la regulación europea para intentar, por lo menos, informar a los usuarios?
 
La regulación europea ha sido fundamental incluso para cambiar la conversación. Sin la regulación europea no estaríamos teniendo esta conversación tú y yo. También obligó a las compañías a ser más conscientes de los datos que recolectan, a tener mejores registros, a tener mejores maneras de mandar esos datos a las personas, los sujetos de datos. Pero es una regulación también muy imperfecta. Como todos sabemos, los escándalos de privacidad siguen sucediendo.
 
El regulador siempre va más lento que la realidad, ¿no?
 
Sí, eso es normal. Pero es muy irracional esto de que tengas que decir que no cada vez que te preguntan sobre las cookies; tendría que ser al contrario. Además, Europa tiene el desafío de que es una regulación muy difícil de implementar y no hemos tenido la voluntad política ni lo que se necesita para hacer cumplir la ley.
 

"Chatbots como ChatGPT no están cumpliendo con la protección de datos. Han sido entrenados con muchísimos datos personales sin habernos preguntado por nuestro consentimiento"

Hay gente que podría estar en desacuerdo, pero creo que es difícil rebatir que chatbots como ChatGPT no están cumpliendo con la protección de datos. Han sido entrenados con muchísimos datos personales sin habernos preguntado por nuestro consentimiento. No pueden borrar esos datos porque el algoritmo ya está entrenado. Tendrían que borrar el algoritmo y reentrenarlo sin esos datos. Ni siquiera pueden decirnos qué datos tienen sobre nosotros porque no guardaron un registro. Hay veces que estos sistemas inventan cosas sobre la gente y no puedes pedirle que lo arregle.

Me parece bastante claro que no están cumpliendo con el Reglamento General de Protección de Datos y, sin embargo, no solamente estamos dejando que se empleen estos modelos, sino que los mismos gobiernos los están usando. Y eso erosiona la democracia, porque el mensaje que se manda es que las leyes no son tan importantes o que, por lo menos, no lo son tanto si eres una compañía suficientemente grande, suficientemente influyente. No sé si ha visto hace poco que Albania ha encomendado a una inteligencia artificial (IA) que se encargue de las licitaciones de contratos públicos para evitar la corrupción. Aquí recuerdo que en la concesión del bono social eléctrico el algoritmo, que no era público, aprendió a discriminar en el mal sentido… La introducción de herramientas de IA en la gestión de políticas públicas, al final, también introduce estos riesgos, ¿no?
 
Sí. En la distribución de recursos escasos, lo más importante es que haya criterios de justicia. Y la inteligencia artificial que estamos utilizando hoy, machine learning, es incompatible con tener criterios de justicia, o criterios de cualquier tipo en realidad, porque lo que hace es encontrar patrones estadísticos y reproducirlos. No hay una serie de criterios que sean transparentes, con los que estemos de acuerdo, con los que sabes a qué atenerte.

Estamos creando un sistema completamente kafkiano, en donde sabemos que somos regidos por algunas reglas, pero no sabemos cuáles son las reglas, no tenemos acceso a las reglas, no podemos quejarnos sobre las reglas o cambiarlas. Y las reglas son arbitrarias porque se basan en patrones estadísticos y no en criterios de justicia.
 
Volviendo a las tecnológicas, Europa no ha sido capaz de generar este tipo de grandes empresas. Falta innovación.
 
Sí, eso es un gran problema. A mí me encantaría ver mucha más innovación en Europa. Precisamente cuando nos enfrentamos a grandes problemas surgen grandes oportunidades de innovación. Y sí, es verdad que Europa no ha estado a la altura de Estados Unidos en materia de innovación con respecto a las tecnológicas, pero también hay que decir que hay empresas interesantes en Europa. Una de ellas, y soy miembro de su board por ser transparente, es la fundación Proton. Creo en su misión. Es una empresa que ha logrado desarrollar emails encriptados, con una tecnología parecida a la de Signal, y que ahora tiene un calendario, un gestor de contraseñas, wallets… Otros ejemplos que merece la pena mencionar son Empathy o Motive.
 
Uno de mis hermanos seguro que la conoce, porque está obsesionado con los datos y con las peticiones que le hacen en todos lados. ¿Tenemos escapatoria?
 
¿Escapar de qué y a dónde no? Esta es nuestra sociedad, es nuestro país y hay que asumir responsabilidad también como ciudadanos. ¿Qué tipo de lugar quieres dejarle a tus hijos?, ¿en qué tipo de lugar quieres vivir? Y la democracia es algo por lo que se lucha todos los días. No es blanco o negro, no es que no pueda escapar y entonces ya no importa y ya doy todos mis datos, todos los días. Cada vez que utilizas una aplicación de mensajería en vez de otra, cada vez que lees un libro en papel, estás construyendo la democracia.
 
Veo que hace muchas preguntas, quizá por deformación profesional. ¿Nos falta filosofía?
 
¿Hoy? Mucha. ¿Qué te voy a decir si soy filósofa?
 
Y yo periodista…
 
También falta periodismo. Falta plantearnos las cosas fundamentales y acordarnos de que aquí no hay tantas cosas nuevas. Sí, la inteligencia artificial tiene elementos novedosos, interesantes, pero hemos estado en este tipo de batallas antes.
 
¿Qué pregunta lanzaría a quienes estén leyendo esta conversación?
 
¿Por qué creéis que los ejecutivos de las tecnológicas están creando la inteligencia artificial? ¿Con qué objetivo la están diseñando? Y otra: si tuvieras que escoger entre la inteligencia artificial y la democracia, ¿qué escogerías?
 
Ahí queda. Muchísimas gracias.