La democracia, rehén de los algoritmos

Su nombre es Brad Parscale, ex jefe de la campaña digital de Donald Trump. En una entrevista con The Guardian, explicó que publicó de promedio de «50.000 a 60.000 variantes de un mensaje publicitario en Facebook, todos los días». Lawrence Lessig nos pide que nos detengamos un momento en esta cifra. Sólo una máquina puede producir 50.000 variaciones de un anuncio cada día. Para Lessig, Parscale utilizó una tecnología, que se ha convertido en clásica, donde la inteligencia artificial fabrica mensajes que producen las respuestas deseadas por el remitente. El objetivo de estos miles de micro-variaciones es encontrar, para cada lector, la formulación más efectiva para provocar una reacción: un donativo, un clic, un me gusta, una acción o, por supuesto, un voto.

La libertad de expresión, como la entendíamos hasta ahora, se basaba en la idea de que los humanos hablaban con otros humanos. Siempre ha habido una asimetría entre los que hablan y los que escuchan, pero se había mantenido en el marco de la humanidad. ¿Qué pasa con esta asimetría cuando se trata de máquinas y algoritmos que están dirigidos a los seres humanos?; ¿cuando los que reciben los mensajes no tienen idea de lo que las máquinas saben sobre ellos y por qué los reciben?

En 2016, Cambridge Analytica innovó al permitir que los organizadores de la campaña del Brexit desarrollaran y difundieran en una quincena de comunidades mensajes anti-europeos dirigidos (Europa son los impuestos para la City, Europa es desempleo e inmigración para los trabajadores y los desempleados en el norte, cuotas de pesca para los pescadores, el cierre de los servicios del NHS para los enfermos), mientras que los ‘remainers’, que defendían permanecer en la Unión Europea, intentaban proponer un discurso único, global y coherente.

Así es como la vida política cambia su naturaleza. La agenda de la campaña electoral cuenta mucho menos. La batalla por controlarla pierde su importancia. Todavía hay debates o discusiones entre políticos, pero lo importante está sucediendo por debajo o más allá del espacio público. Como señala Lessig: «La economía moderna de la libertad de expresión no está impulsada por editores que buscan publicar lo que sus lectores puedan entender, sino por máquinas que fabricaron un discurso basado en el comportamiento que uno desea obtener. En la mayoría de los casos, este comportamiento es simplemente comercial: hacer clic en un anuncio. Pero lo más preocupante es que a veces va más allá de lo comercial: por ejemplo, asaltar el Capitolio».

Un nuevo espacio cívico, artificial y fragmentado

¿Qué pasa con la democracia si una campaña electoral deja de ser ese momento en el que la comunidad nacional, a través del debate público y la controversia, decide colectivamente su destino?; ¿si se convierte en el resultado de estrategias de inversión publicitaria basadas en una micro-división de opiniones y micro-manipulaciones diarias? ¿Qué pasa con la nación? La fragmentación de la comunidad nacional en múltiples objetivos, el envío de mensajes específicos a estos micro-segmentos, en secreto y sin contradicción, prohíben una verdadera deliberación política previa a la votación. La democracia nació en el ágora. Necesita un espacio público que sea verdaderamente público. El microtargeting y la publicidad política personalizada lo desintegran.

[Recibe los análisis de más actualidad en tu correo electrónico o en tu teléfono a través de nuestro canal de Telegram]

Ciertamente, el GDPR (Reglamento General de Protección de Datos) y la prohibición de la publicidad política protegen a Europa de algunas de estas prácticas. Un partido político francés no podría construir una base de datos de casi 200 elementos diferentes de información sobre el 80% del electorado para dirigir sus mensajes, como hacen todos los candidatos presidenciales estadounidenses. Pero esta protección es en gran medida inadecuada. Las redes sociales y los buscadores dibujan el territorio digital en el que evolucionamos, sin la posibilidad de abandonarlo ni, por supuesto, de debatir colectivamente las reglas del juego para elegir cuáles aceptaríamos. No se trata sólo de publicidad: sus algoritmos nos ofrecen a nuestros amigos; filtran el contenido que se nos presenta; eligen en YouTube los segundos vídeos ofrecidos; o, en Facebook, sólo el 12% del contenido de nuestros amigos que es visible; en Tik Tok, seleccionan los videos sin fecha adecuados, cuando estamos buscando un hashtag.

Nos conforman como cohortes para anunciantes. Y la suma de estas decisiones construye una camisa de fuerza algorítmica conducente a estrategias de influencia política invisibles en el espacio público. Esta maquinaria puede funcionar a pesar de la prohibición de la publicidad política. Los manipuladores pueden dirigir mensajes no publicitarios o no políticos a comunidades identificadas como potencialmente receptivas. Cambridge Analytica ha relatado ampliamente cómo revirtió el curso de una elección en Trinidad y Tobago mediante una campaña para promover la abstención, que sabía que tendría un impacto diferenciado según la etnia. Los hackers y bots de Yevgeny Prigozhin son muy aficionados al tema de la protección de los animales, por ejemplo. Y estamos sólo al comienzo de un proceso con perspectivas vertiginosas. Un experimento de psicología en deepfakes ha demostrado que al cruzar ligeramente los rasgos de un político con los de una persona, este último encuentra al político más comprensivo y está más inclinado a confiar en él o ella. ¿Qué nos impedirá diseñar una estrategia que presente a cada votante una imagen del candidato ligeramente mezclada con la suya?

Las nuevas reglas del juego político

Sin llegar tan lejos como estos escenarios extremos, por muy probables que sean, la publicidad dirigida y los algoritmos ya están cambiando profundamente las reglas de la vida política. Con unos pocos millones de euros de inversión, es posible influir significativamente en el resultado de unas elecciones en muchos países. Veremos tales intentos en las elecciones presidenciales francesas de 2022.

Crear identidades falsas para infiltrarse en comunidades, medios falsos para dar a las mentiras la apariencia de información verificada, producir desinformación basada en pruebas falsas casi indetectables, el haz que parezca verdad ha cambiado de naturaleza con las redes sociales y la inteligencia artificial; se ha vuelto sofisticado y alejado de las técnicas rudimentarias de la propaganda. Lo que erróneamente se llama posverdad no es más que este cambio de registro de lo ‘plausible y su formato.

Muchos grupos militantes juegan estas cartas. Esto es lamentable: debilitan la democracia. Pero, sobre todo, debido a que un pequeño grupo de estados ha teorizado sobre la importancia de la guerra de la información y ha adaptado los antiguos métodos de operaciones psicológicas, algunas de esas operaciones son una interferencia real de estados extranjeros. Si la democracia a veces se ve debilitada por los usos militantes de las redes sociales, se ve amenazada en su corazón cuando un Estado intenta revertir el resultado de una elección y, por lo tanto, cambiar la expresión de la voluntad del pueblo soberano.

Nos encontramos ahora en una situación sin precedentes en la que los principios de libertad de expresión de John Stuart Mill parecen estar llegando a sus límites. Ya no es cierto que sea a través del debate abierto de ideas como se pueden combatir las opiniones erróneas, cuando éstas son fabricadas a gran escala por máquinas. La libertad de expresión se refiere a la idea de un espacio público abierto y transparente, donde todos los mensajes son potencialmente visibles y abiertos a la crítica. En el mundo digital contemporáneo, esta condición ya no se cumple. El micro-mensaje no sólo alimenta un objetivo específico, sino que lo aísla del resto de la comunidad. No está destinado a ser discutido; al contrario, está destinado a no ser debatido.

El mensaje no es una opinión, sino una ficción cuyo objetivo es estimular la aversión al adversario. La teoría de la conspiración Pizzagate sostiene así la existencia de una red de pedofilia organizada por el ex jefe de campaña de Hillary Clinton y ubicada en una pizzería de Washington. No es una opinión política que se pueda debatir, pero tiene efectos políticos considerables que han llegado hasta ametrallar la pizzería designada.

Como muestra Giuliano da Empoli en ‘Los ingenieros del caos, las meteduras de pata, las bufonadas y los excesos de Trump, Bolsonaro, Salvini, Orban y otros no son deslices. Surgen de una estrategia dirigida a la amplificación por redes sociales, y a la máxima resonancia en pequeñas comunidades aisladas por filtros burbuja. El algoritmo es el ferviente colaborador del demagogo. El fenómeno de Qanon es una ilustración extrema de esto. Este movimiento no se basa en una retórica extremista, como el Tea Party. Algunos incluso han señalado lo que se parece a un videojuego gigantesco. A cada jugador se le ofrece no un discurso, sino un papel en un gran juego de rol. Jugar, insertarse en un personaje, tener la sensación de actuar, es aún más poderoso como estrategia de compromiso político. El juego de Qanon se benefició de un importante propagandista, Donald Trump y sus 80 millones de suscriptores, y de una mejora sustancial en las reglas del juego, ya que el escenario, como en las mejores sesiones de Minecraft, fue escrito y reescrito diariamente por los propios jugadores. Esta gamificación de la política es también lo que distingue al nuevo régimen de las campañas electorales.

El nuevo ecosistema mediático de la ‘economía de la atención

La vida pública se desarrolla hoy de forma cada vez más (e incluso en mayor medida después de los sucesivos encierros por la pandemia) en un universo virtual y fragmentado. Este universo no se limita sólo a los gigantes digitales. Por el contrario, es un ecosistema rico que incluye plataformas de blogs, de video como YouTube (a la que acuden 1.900 millones de internautas al mes), motores de búsqueda (que determinan en gran medida la información encontrada en Internet); también servicios de noticias que pueden emanar de un motor de búsqueda (como Google News), pero también ser independientes (como BuzzFeed) o anidar en innumerables aplicaciones (como la información ofrecida por los smartphones), redes sociales comerciales como Facebook, Twitter, TikTok, Snapchat, Instagram, etc.), en las que los internautas comparten sus mensajes, fotos y vídeos, pero también información de prensa (a veces los internautas resultan ser robots, y los sitios de prensa son falsos, creados para una operación publicitaria, por activistas políticos, o por un Estado); redes sociales militantes (como Parler, o Gab, donde se refugian extremistas expulsados de las principales plataformas), diversos sitios comunitarios (Reddit, foros de videojuegos, foros confesionales, 4chan o el sulfuroso 8chan, etc.); los servicios de mensajería instantánea (WhatsApp, Telegram, Signal…), que se convierten en el soporte de grupos cada vez más grandes y en el principal canal de información y comunicación para un número creciente de personas; y, finalmente, la darknet, un término sensacionalista creado para designar servidores de Internet que no son referenciados por los motores de búsqueda y albergan la mayoría de las actividades ilícitas.

Incluso si algunos actores virtuosos se resisten en este panorama, como Wikipedia o la red social abierta y descentralizada Mastodon, que se presenta como un antídoto contra los excesos de las plataformas centralizadas, no son suficientes para revertir la tendencia.

Todos estos servicios generan una cantidad increíble de contenidos compartidos: 1.800 millones de usuarios diarios de Facebook que comparten un promedio de 10 enlaces por mes, 500 millones de tuits enviados cada día. A su vez, este impresionante ecosistema cambia el de los medios de comunicación, que se inclinan por crear contenido con una posibilidades de convertirse en viral en las redes sociales, y a veces incluso para apoderarse directamente del contenido generado por estos servicios. Este nuevo dispositivo multimedia, por su potencia y agilidad, ha ganado con ventaja sobre el antiguo. En pocos años, la televisión ha perdido su estatus como medio dominante, y los viejos medios que sobreviven son aquellos que logran encontrar su lugar en el nuevo sistema, que los absorbe y los transforma.

Sin entrar en los detalles de los modelos de negocio de estas plataformas, que pueden ser muy diferentes, es posible identificar el principio que las une: se trata de construir comunidades de individuos a partir de sus afinidades, acumulando la mayor cantidad de información posible sobre ellos, de multiplicar los contactos ofreciéndoles contenidos que refuercen su compromiso y su deseo de volver, de encerrar a estas comunidades en burbujas para evitar que se dispersen. La mera afirmación de estos principios muestra hasta qué punto se oponen al modelo clásico de deliberación política en las sociedades democráticas y a la transparencia de los debates. Para reforzar el compromiso, necesitan contenidos que conmocionen, indignen o entretengan. Según Avaaz, el 70% de los internautas estadounidenses que buscan en YouTube un vídeo sobre el calentamiento global se encontrará con un vídeo escéptico sobre el clima. La plataforma impugna estos resultados con el argumento de que ningún usuario de Internet recibe exactamente los mismos mensajes que otro, pero se cuida de no publicar los datos brutos de sus recomendaciones. Tal resultado no proviene de una adhesión a las teorías de la conspiración; proviene de un algoritmo de refuerzo al que se le ha pedido que priorice los vídeos que provoquen un mayor impulso para verlos.

Del mismo modo, si Facebook causó un escándalo en 2017 porque ofreció, entre sus objetivos, una categoría antisemita (jew haters) es simplemente porque sus herramientas permiten identificar grupos de individuos con casi cualquier característica: práctica deportiva, orientación sexual, orientación política, marcas favoritas, películas favoritas, prácticas alimentarias, religión, elecciones de vacaciones, posesión de armas, títulos de propiedad, escuela infantil, etc. Era inevitable que el poder y la precisión de estas herramientas atrajeran a los clientes políticos.

La urgencia de una respuesta democrática

Este preocupante panorama no sólo amenaza la vida pública. Los mismos mecanismos actúan en la radicalización y el extremismo violento, como lo demostró notablemente la Comisión Real creada en Nueva Zelanda después del ataque de Christchurch. También ejercen un papel en los fenómenos de odio en línea, en el éxito de las teorías de conspiración y, probablemente, incluso en los fenómenos de acoso.

En la vida pública, plantean nuevas cuestiones de una complejidad sin parangón. Y abundan las falsas soluciones, simples y radicales. En particular, la absurda tentación de limpiar la red de odio, error o ira, mediante la censura o una improbable policía del pensamiento. Estas respuestas no sólo son absolutamente ineficaces, ya que el problema no es el discurso violento, sino este nuevo espacio público de debate, artificial y compartimentado, que aísla, luego radicaliza y, a su vez, amenaza los fundamentos de la democracia y el Estado de derecho. La libertad de expresión es uno de los derechos humanos más preciados, como recuerda nuestra propia Constitución. No puede ser la variable de ajuste para contrarrestar estos nuevos peligros. Este problema sistémico exige respuestas sistémicas. El nudo gordiano está en el propio diseño de estos servicios digitales, impulsados por un modelo económico muy concreto, el de la economía de la atención. Resolver el problema requerirá una profunda transformación en el diseño de estos servicios, lo que necesariamente conllevará cambios en sus modelos de negocio. El camino ha comenzado y Francia está desempeñando su papel; por ejemplo, en su contribución al diseño de la Ley de Servicios Digitales que está preparando la Comisión Europea, así como con el Llamamiento de Christchurch lanzado con Nueva Zelanda. Pero seguirá siendo un largo camino, y requerirá una verdadera comprensión de la naturaleza de los problemas, una gran dosis de creatividad jurídica y mucha determinación política.

(Este análisis fue publicado originalmente por nuestro ‘partner’ Telos. Traducción: Isabel Serrano)

Contra la pandemia, información y análisis de calidad
Colabora con una aportación económica

Autoría

Deja un comentario

X

Uso de cookies

Esta página utiliza cookies propias y de terceros para mejorar nuestros servicios y mostrarle información relacionada con sus preferencias mediante el análisis de sus hábitos de navegación. Si continua navegando, consideramos que acepta su uso.. Puede cambiar la configuración u obtener más información aquí.