Por qué entender cómo razona la inteligencia artificial es clave para gobernar su impacto social

Entre los más hermosos recuerdos de mi infancia está la memoria de Felisa. Llegada a Barcelona desde un pueblo de Aragón, pasó cerca de dos décadas en el domicilio familiar. La cocina de Felisa era de altísimo nivel: en una casa con una intensa vida social, en esas cenas privadas ella competía con honor con los mejores restaurantes de la ciudad. Con el paso de los años, fueron varios los que intentaron ir poniendo por escrito esas recetas absolutamente memorables (hablamos de esos platos que se preparaban a veces durante al menos un día y medio). Misión casi imposible: ella sabía lo que hacía, y los demás lo disfrutábamos. Pero entre sus virtudes nunca estuvo la capacidad de comunicar qué milagroso código de acciones había podido producir aquel inolvidable suflé. 

Esta imagen es la que me viene a la cabeza cuando pienso en cómo la inmensa mayoría de nuestra sociedad se ha acercado al progreso tecnológico de las últimas décadas, a internet y, hoy, a la llegada de la inteligencia artificial. Sin que entendamos realmente nada de lo que consumimos; sin que los que están en las cocinas dediquen tiempo ni energía a explicarnos ni qué ingredientes permiten que funcione el chat de WhatsApp; ni sabemos apenas nada de qué hay detrás de ese Transformador Generativo Preentrenado, o GPT en su original inglés, que en forma de chat omnisciente va entrando en nuestras vidas como un fiel y discreto compañero. 

"Tampoco los expertos entienden bien qué está pasando en esa parte 'oscura' del 'machine learning ni cómo actúan los sistemas neuronales que integran una determinada plataforma de inteligencia artificial"

Ya en 1919 escribió Max Weber que "ninguno de nosotros, salvo si se trata de un físico especializado, cuando se monta en un tranvía, tiene ni idea de cómo puede moverse. Ni necesita saberlo para desplazarse". Aquellas palabras de quien exploraba entonces el impacto social de la ciencia y la racionalización resuenan hoy con fuerza. Se multiplican por millones los usuarios de los distintos modelos de inteligencia artificial, sin que apenas un puñado de entre ellos entienda cómo se mueve ese tranvía. En realidad, si lo comparamos a cómo un ingeniero mecánico sabe perfectamente qué ocurre dentro de motor de combustión, la realidad es que tampoco los expertos que nos han traído hasta aquí entienden bien qué está pasando en esa parte oscura del machine learning ni cómo actúan los sistemas neuronales que integran una determinada plataforma de inteligencia artificial para producir ese concreto proceso y resultado. 

Pero ocurre que la IA no es un tranvía. En absoluto. Ciertamente, a muchos les incomoda que en su denominación se haya incorporado el noble concepto de inteligencia. Los que llevan tiempo en esto conocen bien la crítica que formuló el lingüista Emily Bender, cuando acuñó la expresión "Stochastic Parrots" para definir a estos grandes modelos de lenguaje que, según él, serían solo loros estocásticos que se limitan a repetir patrones estadísticos de palabras. Aquella fue y es una llamada de atención importante ante los riesgos de absoluta credibilidad que presenta la máquina cuando se expresa de forma tan auténtica y coherente. Pero aunque esté bien llamar a la prudencia, al sentido crítico y a cierta desconfianza, también es indispensable abrir los ojos ante la realidad de lo que tenemos delante.

La IA arriesga a partir de lo que conoce

Porque la IA no es en absoluto un loro sofisticado. Una de las características definitorias que separa a la IA de los más sofisticados y complejos programas informáticos que la han precedido es, precisamente, su autonomía. Como escribe la Comisión Europea en sus recientes directrices sobre qué es y qué no es inteligencia artificial, publicadas el 29 de julio de este mismo año, "el nivel de autonomía es una condición necesaria para determinar si un sistema puede considerarse un sistema de IA". La IA, para ser digna de este nombre, no repite cálculos, parámetros o estimaciones que derivan de los datos que ya ha recibido. No. La IA arriesga a partir de lo que conoce. Explora. Y desde ahí realiza recomendaciones, estimaciones, pronósticos que no se contenían necesariamente en los datos previamente introducidos. Y es esa autonomía la que permite al sistema su propia progresión, con una velocidad, intensidad y escala que nadie es hoy capaz de determinar con precisión.

"A diferencia de un ordenador 'tradicional', la IA tiene la capacidad de generar resultados no preprogramados, lo que le otorga una autonomía funcional sin precedentes. Puede proponer y ejecutar para la nave un rumbo distinto al previsto"

La IA no es una nueva herramienta en manos de quien la manipula. Tampoco es una versión doméstica de esos pilotos automáticos que, aplicando cálculos preasignados, mantiene la nave en vuelo durante unas horas sin intervención humana. No. Porque, a diferencia de un ordenador tradicional, tiene la capacidad de generar resultados no preprogramados, lo que le otorga una autonomía funcional sin precedentes. De tal forma que el sistema, en determinadas circunstancias, puede proponer y ejecutar para la nave un rumbo distinto al inicialmente previsto. Esa es la inmensa diferencia que muchos no acaban de entender. Autonomía. 

Monitorizar la "cadena de pensamiento"

Hace unas semanas se presentó un importante comunicado a modo de toque de alarma, firmado por una larga lista de las mejores cabezas en IA en el mundo (trabajadores de Open AI, Anthropic, Google Deep Mind, Meta y otros). Advertían sobre la grave y urgente necesidad de proteger la monitorización de la llamada "cadena de pensamiento" ("chain of thought"). Así se conoce el método que permite auditar paso a paso el razonamiento de un modelo de IA que se expresa en lenguaje natural, para anticipar sus intenciones y prevenir conductas indebidas. El documento pone los pelos de punta, precisamente cuando sus autores señalan sin pudor todo lo que puede salir mal si ese control falla: desvío de fondos, sabotajes a infraestructuras, hackeos, y una larga lista de crímenes posibles. ¿Por qué? Porque la IA es ya un sistema que solo responde ante sus programadores hasta cierto punto. Y eso solo puede ir a más. 

"Creo que este cambio puede aportar inmensos beneficios a la humanidad. Pero es indispensable que cambie la conciencia general de lo que está ocurriendo ahí"

Personalmente, no me sumo a los que ven esto de forma negativa. Creo que este cambio puede aportar inmensos beneficios a la humanidad. Pero sí pienso que es indispensable que cambie la conciencia general de lo que está ocurriendo ahí. Y para eso, es indispensable que, retomando la imagen inicial, quienes están en la mesa entiendan mejor qué ocurre en la cocina. Que entendamos mejor qué es lo que mueve a este tranvía, y que con la IA el tranvía puede cambiar de vía sin pedirnos permiso. Y solo entonces quizá nos demos cuenta de que no estamos ante una nueva revolución de internet ni ante una nueva revolución industrial o una nueva invención como la de la imprenta. Personalmente creo que todo eso se queda muy corto. Estoy más cerca de quienes creen que estamos en un momento tan trascendental como aquel en que nuestros ancestros dejaron de ser cazadores-recolectores para convertirse en una sociedad agrícola estable, inaugurando una nueva era para el trabajo, las ciudades y las relaciones humanas.

Ciertamente, ni yo ni ninguno de los lectores de estas líneas estaremos vivos para cuando ese cambio haya alcanzado todo su despliegue. Pero eso no nos impide empezar a sacarle todo el partido posible y al mismo tiempo ser —desde ya— actores responsables en la construcción de lo que vamos a dejar a las generaciones posteriores.