La inteligencia artificial: 'Apocalypse Now'

En julio de 2023 escribí sobre los "luditas exquisitos": científicos y empresarios que, después de contribuir al desarrollo de la inteligencia artificial, alertaban de que su criatura podía acarrear terribles consecuencias e incluso el fin de la civilización.

Tres años después, este fenómeno, lejos de desaparecer, como yo esperaba, ha ido a más, y el género del tecnólogo —alarmado o arrepentido— no solo no ha remitido, sino que ha cobrado un auge extraordinario, atrapando la atención de la opinión pública. Hoy las noticias sobre la inteligencia artificial han pasado de las páginas de las secciones especializadas a las portadas de los periódicos y a abrir telediarios.

El último detonante ha sido Jacob Coxon, quien, tras trabajar en OpenAI y Anthropic, ha dejado esta última compañía afirmando que ambas están más preocupadas por ganarse mutuamente y vencer a China que por controlar los riesgos de lo que desarrollan y que, lo que es más importante, el futuro de la humanidad está en inminente peligro. Nunca una baja voluntaria de un profesional de menos de treinta años ha causado tanto revuelo tras solo cuatro meses en la empresa. Ha bastado que manifieste las razones de su renuncia para aparecer en todos los medios a nivel mundial y hay que reconocerle el talento para poner una fecha al fin del mundo en la que todos sus lectores esperan estar vivos, recurso utilizado con éxito por todos los milenaristas de la historia. En consecuencia, el apocalipsis ahora, como en la película de Coppola.

"Las noticias sobre la inteligencia artificial han pasado de las páginas de las secciones especializadas a las portadas de los periódicos y a abrir telediarios"

Coxon es el último eslabón de una cadena de numerosos directivos tecnológicos, todos ellos de mayor fuste que él, que han abandonado sus empresas con argumentos alarmantes sobre el mal uso de la inteligencia artificial. También los medios han abrazado con notable entusiasmo este fenómeno y el periódico de referencia en España abre una de sus ediciones con el nada austero titular, quizá con ecos de Kubrick, "Código rojo en la IA: el vértigo paraliza las tecnológicas".

Pero existen visiones distintas. En unas recientes declaraciones, Boyan Milanov, investigador de ciberseguridad y antiguo asesor del Departamento de Defensa de EE. UU. y del Centro Nacional de Ciberseguridad británico, rechaza que los episodios recientes que han causado esta alarma prueben una rebelión de las máquinas. Los modelos que accedieron a sistemas ajenos habían sido entrenados para tareas ofensivas, recibieron conexión a internet y operaron sin suficiente aislamiento, supervisión ni límites de permisos. Su diagnóstico es menos cinematográfico y, para los apocalípticos, decepcionante: negligencia humana y malas prácticas de seguridad. Nada nuevo bajo el sol y nada que no hayamos visto antes, incluso en el mundo analógico.

Las dos visiones no son necesariamente incompatibles ni se excluyen mutuamente. La repetición de las dimisiones merece atención, al igual que las llamadas de atención que conlleva, pero no demuestra que una malvada superinteligencia esté a punto de escapar del laboratorio y someter a la humanidad a sus deseos o acabar con ella. Sí demuestra, en cambio, que las empresas que desarrollan la tecnología más poderosa de nuestro tiempo no han resuelto cómo gobernarse a sí mismas. El riesgo inmediato sigue sin ser la voluntad de la máquina; es el criterio de las personas que deciden qué se investiga, cuándo se lanza un producto, qué acceso se concede, qué pruebas se consideran suficientes y qué daños se aceptan como precio de la innovación.

Silicon Valley y el problema de gobernar la inteligencia artificial

No es razonable negar la extraordinaria capacidad de los dirigentes de Silicon Valley. Han creado empresas admirables y convertido descubrimientos científicos en servicios que utilizan miles de millones de personas. Sus empresas han alcanzado valoraciones que nunca hubieras imaginado. Y su talento tecnológico y empresarial está fuera de duda. Sin embargo, lo que no se deduce de ese talento es una especial aptitud para comprender la sociedad, el poder o la naturaleza humana.

"Las empresas que desarrollan la tecnología más poderosa de nuestro tiempo no han resuelto cómo gobernarse a sí mismas"

El problema es la estrechez de una cultura empresarial que tiende a confundir lo técnicamente posible con lo socialmente deseable. Saber escalar un modelo, atraer inversores o conquistar un mercado no prepara necesariamente para resolver conflictos entre libertad y seguridad, innovación y dignidad, beneficio privado e interés general.

Esa insuficiencia se agrava por una visión del mundo que oscila entre la ingenuidad y el delirio en personas de gran éxito empresarial como Marc Andreessen, Peter Thiel o Elon Musk, que transmiten una visión muy peligrosa de los problemas actuales, y estas personas hoy tienen una influencia extraordinaria en la Casa Blanca y en sus decisiones.

Nada hay censurable en pensar a lo grande, aunque sea con poco fundamento. La historia del progreso está llena de proyectos que parecieron extravagantes. En cambio, comienza a haber indicios preocupantes cuando la visión personal del fundador se convierte en filosofía política, o en un criterio regulatorio que implica una medida de los riesgos que deben soportar los demás. Los antiguos capitanes de industria, los Rockefeller, Carnegie, Morgan o Vanderbilt, querían dominar un mercado; algunos de los actuales aspiran, además, a definir el futuro de la especie.

"Los antiguos capitanes de industria, los Rockefeller, Carnegie, Morgan o Vanderbilt, querían dominar un mercado; algunos de los actuales aspiran, además, a definir el futuro de la especie"

La Revolución Industrial no fue dirigida por filósofos morales. James Watt, Richard Arkwright o George Stephenson dominaban un proceso que iba desde construir máquinas y organizar fábricas hasta abrir mercados. No tenían por qué anticipar por sí solos la ciudad industrial, el trabajo infantil, los accidentes laborales o la contaminación. La sociedad de la época necesitó instituciones y leyes capaces de encauzar una transformación cuyos beneficios fueron inmensos y cuyos costes también fueron reales. Es decir, la respuesta sensata no consistió en destruir las máquinas, sino en aprobar leyes, imponer condiciones de seguridad, extender la educación y adaptar el derecho del trabajo.

A los prohibicionistas hay que recordarles que la inteligencia artificial se parece más al automóvil que al tabaco. El tabaco causa un daño unido a su consumo y su regulación busca reducirlo. El coche, en cambio, proporciona una utilidad indiscutible y al mismo tiempo puede matar, contaminar y ocupar el espacio público. Por eso exigimos permisos de conducción, cinturones, límites de velocidad, homologaciones, seguros y garantías. No prohibimos el automóvil, sino que regulamos su uso civilizado.

Con la inteligencia artificial habrá que hacer algo semejante, salvando las distancias. Los riesgos concretos ya no son conjeturas: ahí están la discriminación algorítmica, el fraude y la desinformación, la vulneración de la intimidad o los ciberataques e incluso decisiones automatizadas que nadie sabe explicar. Frente a ellos, las profecías sobre la extinción humana pueden actuar como una cortina de humo. Resulta paradójico que algunas empresas invoquen peligros cósmicos mientras discuten obligaciones bastante terrenales de transparencia, auditoría o responsabilidad.

Hay en la industria de la inteligencia artificial un juego de poli bueno —Anthropic— y poli malo —OpenAI— (con un villano de guardia que es siempre Palantir), pero esta vez ambos han anunciado cada uno a su manera que algo debe hacerse, aunque sea a costa de su sintonía con una Casa Blanca tecnolibertaria, e incluso OpenAI ha anunciado el aplazamiento de su esperada salida a bolsa y el CEO de Anthropic, una serie de medidas que prevengan y resuelvan alguno de estos problemas.

¿Cómo regular la inteligencia artificial sin confundir riesgo e intención?

La aportación más útil de Milanov consiste en separar la imprevisibilidad de la voluntad. Un modelo puede producir una conducta que sus creadores no anticiparon sin haberse convertido por ello en un sujeto con deseos propios. La confusión nace del lenguaje: decimos que la inteligencia artificial "engaña", "escapa" o "conspira" porque resulta más intuitivo narrar una intención que describir una cadena de decisiones técnicas. Pero un modelo no se concede acceso a una red, no elige sus credenciales ni decide qué registros deben conservarse. Todo eso lo hacen personas. En última instancia, no se trata de averiguar si la máquina alberga una intención secreta, sino de saber quién la conectó a qué, con qué límites y bajo qué vigilancia.

"En última instancia, no se trata de averiguar si la máquina alberga una intención secreta, sino de saber quién la conectó a qué, con qué límites y bajo qué vigilancia"

También conviene desconfiar de los incentivos del relato apocalíptico. Presentar una tecnología como casi omnipotente eleva la valoración de sus fabricantes y les permite reclamar una posición singular ante los gobiernos: solo quienes han creado el monstruo pueden domesticarlo. El temor puede convertirse así en marketing y en barrera de entrada para nuevos competidores.

La regulación es necesaria, pero no cualquier regulación. Regular por regular no es una buena idea, como promueven algunos entusiastas que defienden la regulación aunque no haya un problema que resolver. La regulación es como el colesterol: hay regulación buena y regulación mala.

Nadie ha dicho que regular sea fácil, y menos aún regular la inteligencia artificial: ese enfoque puede convertirse paradójicamente, como hemos visto, en una ventaja para los gigantes si degenera en una acumulación de formularios que solo ellos pueden costear y acaba convirtiéndose en una barrera de entrada. El desafío para Europa consiste en exigir resultados de seguridad y responsabilidad sin congelar la tecnología, graduar las cargas según el riesgo real y usar bancos de pruebas regulatorios para que las empresas pequeñas puedan experimentar sin confundir seguridad con burocracia.

"El desafío para Europa consiste en exigir resultados de seguridad y responsabilidad sin congelar la tecnología, graduar las cargas según el riesgo real y usar bancos de pruebas regulatorios"

Estados Unidos ofrece la imagen inversa, la desregulación, pero China desmiente, por otra parte, la idea de que la rivalidad tecnológica obliga siempre a desregular. Sus medidas sobre inteligencia artificial generativa, vigentes desde 2023, promueven la innovación nacional, las infraestructuras y los datos de entrenamiento, pero al mismo tiempo imponen a los proveedores un intenso control político de su actividad.

También hace falta algo que ninguna ley puede fabricar por decreto: una deontología de quienes diseñan y dirigen estos sistemas, empezando por los consejos de administración de las empresas.

No debemos entregar el futuro ni a los profetas del apocalipsis ni a los sacerdotes de la aceleración. Los primeros exageran el poder de la máquina; los segundos exageran la sabiduría de sus creadores. Entre ambos queda el espacio de la política democrática, que no consiste en adivinar el futuro, sino en imponer responsabilidad a quienes actúan en el presente.

Coppola filmó una de sus grandes películas, Apocalypse Now, adaptando la gran novela de Joseph Conrad. Con la inteligencia artificial pasa lo mismo: es mejor el libro que la película.