Cuando el Estado deja de saber, ¿qué debe hacer Europa ante el poder de las empresas de inteligencia artificial?

La inteligencia artificial está alterando una de las funciones más sensibles de cualquier Estado: garantizar la seguridad. En la actualidad, la capacidad del Estado para producir conocimiento sobre las amenazas, comprender las intenciones de sus adversarios y anticipar acontecimientos está siendo transformada radicalmente. OpenAI, Anthropic, Google, Microsoft, Amazon o Palantir venden herramientas a gobiernos, fuerzas armadas y servicios de inteligencia. Aunque esta externalización no es nueva, el cambio reside en que estas compañías empiezan a asumir partes del propio ciclo de inteligencia. Ahora sus herramientas pueden intervenir en tareas como recoger indicios, procesar cantidades inmensas de información, identificar comportamientos sospechosos, relacionar personas y organizaciones, atribuir operaciones e incluso adoptar contramedidas.

"OpenAI, Anthropic, Google, Microsoft, Amazon o Palantir empiezan a asumir partes del propio ciclo de inteligencia"

Estas empresas de IA no van a sustituir formalmente a los servicios de inteligencia. La principal razón es que, simplemente, no poseen sus facultades legales. Pero tampoco cuentan con sus redes de fuentes humanas ni su legitimidad como instituciones. En cambio, OpenAI y el resto de compañías pueden concentrar progresivamente en manos privadas una capacidad cada vez más importante: transformar grandes cantidades de información en conocimiento útil —esto es, procesarla e interpretarla para producir respuestas y orientar decisiones—. Europa debe evitar que la dependencia de estas tecnologías termine limitando también su autonomía política.

Claude como campo de operaciones

Según un reciente informe de amenazas de Anthropic, actores relacionados con gobiernos y organizaciones de China, Rusia, Irán, Malí y otros países han utilizado Claude para tareas de vigilancia, espionaje, propaganda, desarrollo de software militar e investigaciones biológicas de doble uso. En algunos casos, la IA habría participado en la ejecución y coordinación de partes sustanciales de ciberoperaciones.

Anthropic asegura haber detectado operaciones vinculadas a China e Irán que utilizaron Claude para vigilar o perfilar a disidentes, periodistas, activistas y otras figuras públicas. En Malí, documenta a un consultor que empleó Claude para desarrollar una plataforma nacional de vigilancia destinada al servicio de inteligencia estatal. La IA no ha fijado los objetivos de estos gobiernos, pero sí ha logrado reducir enormemente los conocimientos técnicos, el personal, el tiempo y los recursos necesarios para poner en práctica sus planes. En consecuencia, las capacidades de vigilancia que antes estaban reservadas a servicios relativamente sofisticados pueden quedar al alcance de aparatos estatales mucho más modestos.

"Las capacidades de vigilancia que antes estaban reservadas a servicios relativamente sofisticados pueden quedar al alcance de aparatos estatales mucho más modestos"

Anthropic también atribuye a un grupo con métodos compatibles con los de Midnight Blizzard, vinculado a Rusia, una campaña contra objetivos gubernamentales, militares y diplomáticos ucranianos. En este sentido, Claude habría sido utilizado para tareas como preparar ataques de phishing, comprometer conexiones wifi de hoteles, intentar apoderarse de cuentas de WhatsApp y modificar automáticamente código malicioso cuando este era detectado por los sistemas de seguridad.

También hay casos que afectan a la propaganda. Por ejemplo, medios estatales rusos habrían empleado el modelo para producir contenidos presentados como periodismo independiente, incluyendo afirmaciones fabricadas sobre procesos electorales. Asimismo, se detectaron consultas relacionadas con armas de fuego, misiles, drones armados y explosivos procedentes de China, Rusia y Yemen.

De todos los casos publicados, el episodio más grave es el de las armas biológicas. Anthropic afirma haber bloqueado cuentas asociadas a investigadores que trataban de utilizar Claude para trabajos susceptibles de facilitar el desarrollo de este tipo de armamento. Una de las operaciones habría buscado ayuda para formular una propuesta de investigación sobre mutaciones del virus chikungunya que podían aumentar su peligrosidad. La supuesta vinculación del proyecto con una institución militar elevó la preocupación de la compañía, aunque esta admite que no pudo determinar si la finalidad última era desarrollar un arma.

Si bien hablamos de cuestiones graves, es necesario tomar ciertas precauciones. Estas son atribuciones realizadas por Anthropic a partir de la actividad observada en su plataforma y no equivalen por sí solas a conclusiones judiciales ni a atribuciones oficiales. Incluso admitiendo esta cautela, no se debe ignorar el hecho de que una empresa privada ha podido observar operaciones estatales, reconstruir su funcionamiento, atribuirlas geográficamente, identificar a sus posibles responsables, expulsarlos de su plataforma y, sobre todo, decidir qué información compartir con los gobiernos. Anthropic ha protegido a Claude, su producto, pero también ha hecho de servicio privado de contrainteligencia.

La privatización del ciclo de inteligencia

¿Qué labores desempeñan hoy los servicios de inteligencia? Desde el MI6 hasta el CNI o la CIA, se encargan, a petición de los gobiernos, de una serie de tareas fundamentales. Son los responsables de determinar prioridades, obtener información, procesar los datos, formular las respectivas hipótesis, evaluar las amenazas —en caso de que existan— y, finalmente, entregar sus conclusiones a los decisores correspondientes.

Buena parte de esta cadena ya puede quedar en manos de empresas tecnológicas. Amazon, Microsoft y Google proporcionan la infraestructura en la nube sobre la que se almacenan y procesan enormes cantidades de información, mientras Nvidia suministra buena parte de la capacidad de computación necesaria. A partir de ahí, compañías como Palantir permiten integrar y cruzar distintas bases de datos, y los modelos desarrollados por OpenAI, Anthropic o Google DeepMind pueden traducir, resumir, relacionar y analizar toda esa información.

"La Administración puede seguir tomando las decisiones y, al mismo tiempo, depender cada vez más de herramientas que no controla para obtener la información en la que las basa"

La Administración puede seguir tomando las decisiones y, al mismo tiempo, depender cada vez más de herramientas que no controla para obtener la información en la que las basa. Un informe puede llevar la firma de un funcionario, por ejemplo, aunque parte de las fuentes utilizadas, las relaciones detectadas entre ellas o las hipótesis planteadas procedan de sistemas cuyo funcionamiento no puede revisar por completo.

Los casos expuestos por Anthropic plantean otro problema. Cuando una operación se desarrolla dentro de una plataforma privada, la empresa dispone de información sobre su funcionamiento que el propio Estado puede necesitar después. Los gobiernos y los servicios de inteligencia pasan entonces a depender del proveedor para acceder a esos registros. Además, es la compañía la que puede decidir si mantiene o suspende el acceso a la herramienta.

Europa no necesita autarquía, sino capacidad propia

La respuesta europea no pasa por prescindir de los proveedores estadounidenses. Sería poco realista y, probablemente, contraproducente. Estados Unidos conserva una ventaja considerable en modelos fundacionales, computación avanzada y servicios en la nube, y Europa seguirá necesitando trabajar con sus empresas, también en ámbitos relacionados con la seguridad.

El problema aparece cuando esa cooperación termina creando una dependencia de la que resulta difícil salir. Europa debería poder utilizar la mejor tecnología disponible sin quedar atada a un solo proveedor en todas las fases que van desde la obtención de los datos hasta la decisión política.

"Europa debería poder utilizar la mejor tecnología disponible sin quedar atada a un solo proveedor en todas las fases que van desde la obtención de los datos hasta la decisión política"

Para ello, primero habría que determinar qué partes de ese proceso deben considerarse infraestructura crítica. No plantea el mismo problema un asistente que resume documentos administrativos que un modelo empleado para analizar interceptaciones, identificar a personas susceptibles de vigilancia o localizar posibles objetivos militares.

Los Estados miembros podrían partir de una clasificación común de los sistemas utilizados en seguridad, defensa e inteligencia. A medida que una herramienta intervenga de forma más directa en la identificación de personas, en la elaboración de hipótesis estratégicas o en decisiones relacionadas con el uso de la fuerza, el control público sobre su funcionamiento debería ser mayor. También deberían aumentar las exigencias sobre la trazabilidad de sus resultados y sobre la capacidad de las autoridades para operar sin depender exclusivamente del proveedor.

Una doctrina europea de contratación

Buena parte de esta discusión se resolverá en los contratos públicos. La dependencia tecnológica no siempre aparece en el momento de comprar una herramienta, sino después de años utilizándola. Cuando una organización almacena sus datos, adapta sus procedimientos y forma a su personal alrededor de una misma plataforma, cambiarla puede convertirse en una operación demasiado costosa. En ese momento, la propia dependencia creada durante el contrato facilita su renovación.

"La dependencia tecnológica no siempre aparece en el momento de comprar una herramienta, sino después de años utilizándola"

Por eso, Europa necesita criterios específicos para contratar sistemas de inteligencia artificial destinados a usos sensibles. Los acuerdos deberían permitir trasladar los datos a otra plataforma, conectar el sistema con tecnologías de otros proveedores y conservar un registro de las decisiones automatizadas. También tendrían que prever, desde el principio, cómo abandonar el servicio. Reconocer sobre el papel el derecho a cambiar de proveedor sirve de poco si hacerlo obliga después a reconstruir toda la arquitectura tecnológica del organismo.

Hay otra cuestión especialmente relevante en los servicios de inteligencia: qué ocurre con la información que genera el propio uso de la plataforma. Los contratos deberían establecer dónde se procesan los datos, quién puede consultarlos, qué registros conserva la empresa y bajo qué jurisdicción quedan almacenados. El secreto no reside únicamente en los documentos que se introducen en el sistema. También puede estar en las preguntas que hacen los analistas. Saber qué países, personas, organizaciones o amenazas concentran esas consultas permite hacerse una idea de las prioridades de un gobierno.

En los usos más sensibles puede ser necesario ir más lejos y exigir que determinados modelos funcionen en infraestructuras controladas por las propias autoridades, con entornos aislados y mecanismos que permitan mantener el servicio si se rompe la relación con la empresa. Las actualizaciones tampoco deberían depender por completo de equipos situados fuera de Europa. Que el Estado sea propietario de los datos no resuelve el problema si ha perdido el control sobre las herramientas necesarias para interpretarlos.

Una capacidad europea compartida

Es difícil que un solo Estado europeo pueda desarrollar y mantener toda esta infraestructura por su cuenta. La unidad es necesaria y parte de la respuesta tendrá que organizarse a escala comunitaria, aunque eso no implique crear de inmediato un servicio de inteligencia europeo. Un primer paso podría consistir en compartir capacidades técnicas entre las agencias nacionales.

La Unión podría crear un centro dedicado a evaluar los modelos utilizados en ámbitos relacionados con la seguridad nacional y conectarlo con la Agencia de la Unión Europea para la Ciberseguridad (ENISA), el Centro de Satélites de la UE y el Centro de Inteligencia y de Situación de la UE (EU INTCEN). Antes de incorporar un modelo a un entorno sensible, este organismo podría estudiar sus vulnerabilidades y comprobar su comportamiento. También serviría para revisar las actualizaciones y poner en común las alertas detectadas por distintos Estados miembros.

"Europa necesita medios para contrastar esas atribuciones y no depender únicamente de la interpretación de la empresa"

Si una compañía estadounidense detecta una operación dentro de su plataforma, puede disponer antes que las autoridades europeas de información relevante sobre lo ocurrido. Europa necesita medios para contrastar esas atribuciones y no depender únicamente de la interpretación de la empresa. Para hacerlo, debería poder combinar los indicios proporcionados por el proveedor con información pública y clasificada y valorar por sí misma si existe una operación vinculada a un Estado.

Ese escrutinio tendría que aplicarse igualmente a los productos europeos. La autonomía estratégica pierde sentido si se considera seguro un sistema solo porque ha sido desarrollado dentro de la Unión. Empresas como Mistral, Aleph Alpha o Helsing pueden beneficiarse de inversión y contratos europeos, pero sus herramientas deberían pasar por controles comparables a los exigidos a sus competidores estadounidenses.

Preservar el juicio humano

Una de las ventajas de la inteligencia artificial es su capacidad para procesar volúmenes de información que ningún equipo humano podría revisar por completo. Esa misma escala, sin embargo, puede dificultar la comprobación de los resultados. Que una persona aparezca formalmente al final del proceso no significa que pueda ejercer un control real sobre él. E igualmente, si un sistema genera miles de alertas o propone centenares de objetivos, el responsable puede acabar validando resultados sin disponer de tiempo ni de información suficiente para reconstruir cómo se ha llegado hasta ellos.

"Que una persona aparezca formalmente al final del proceso no significa que pueda ejercer un control real sobre él"

Por eso, una evaluación elaborada con ayuda de IA debería permitir distinguir entre los datos que proceden de fuentes verificadas y las conclusiones obtenidas por el modelo. También tendría que indicar qué grado de incertidumbre acompaña a esas inferencias. En decisiones especialmente graves, como considerar a una persona una amenaza, autorizar una operación o recomendar el uso de la fuerza, el resultado de un modelo no debería bastar por sí solo.

Conviene, además, conservar equipos capaces de trabajar sin esas herramientas. La dependencia no aparece únicamente cuando falta una determinada tecnología. También surge cuando una organización deja de saber hacer su trabajo sin ella. Un servicio de inteligencia que pierda su capacidad de análisis independiente será más vulnerable tanto a los errores del sistema como a una manipulación o a una interrupción del acceso.

La soberanía sobre la capacidad de conocer

El carácter secreto de estas actividades tampoco debería impedir toda forma de supervisión democrática. Los parlamentos no necesitan acceder a los detalles operativos de cada misión, pero sí deberían saber qué empresas intervienen en la producción de inteligencia, qué tareas realizan y qué controles se aplican sobre ellas.

Una compañía puede detectar una operación dentro de su plataforma, cerrar una cuenta o establecer qué usos admite su tecnología. Esas decisiones forman parte de la gestión de su servicio. Otra cosa es determinar qué constituye una amenaza o dónde se encuentra el interés nacional, decisiones cuya legitimidad corresponde a las instituciones públicas. Del mismo modo, el secreto de Estado no debería servir para introducir herramientas opacas sin que exista alguna forma de evaluación independiente.

Europa puede utilizar modelos estadounidenses y, al mismo tiempo, desarrollar alternativas propias. Ambas cosas son compatibles siempre que conserve suficiente control sobre los datos, sobre el funcionamiento de los sistemas y, sobre todo, sobre las decisiones que se toman a partir de ellos. El margen para hacerlo, sin embargo, será menor cuanto más difícil resulte sustituir las tecnologías que hoy se están incorporando.

"Pueden contratar tecnología, pero no deberían perder la capacidad de entender la información que utilizan, formar su propio juicio y responder por las decisiones que adoptan"

Los Estados siempre han recurrido a herramientas desarrolladas fuera de la Administración, pero nunca se había delegado tanto trabajo como en el presente. Pueden contratar tecnología, pero no deberían perder la capacidad de entender la información que utilizan, formar su propio juicio y responder por las decisiones que adoptan. Si un Estado deja de saber cómo se produce la inteligencia sobre la que decide, puede conservar formalmente la autoridad y haber perdido, en la práctica, una parte importante de ella.