La inteligencia artificial pone a prueba a las instituciones: ¿sabrán gobernarla?

España y Europa están diseñando políticas de inteligencia artificial centradas en tres prioridades: inversión, regulación y adopción. Son dimensiones necesarias, pero incompletas, porque falta una cuarta: la capacidad de las instituciones para aprender, controlar y corregir los sistemas que incorporan. Sin esa capacidad, la transformación digital puede aumentar la eficiencia inmediata y, al mismo tiempo, debilitar la autonomía de las organizaciones públicas.

La soberanía digital suele medirse en infraestructuras, datos, proveedores o modelos propios. Sin embargo, una administración puede adquirir tecnología avanzada y seguir siendo frágil si depende del proveedor en etapas posteriores, ya sea para interpretar los resultados, hacer una modificación en los criterios o incluso responder ante fallos que puedan surgir. En este sentido, la dependencia tecnológica es también una dependencia de capacidades. Por ello, no basta con poseer herramientas, sino que las instituciones deben conservar el conocimiento necesario para gobernarlas.

Del cumplimiento a la capacidad institucional

El cumplimiento regulatorio es imprescindible, pero no garantiza que una organización pueda gobernar la inteligencia artificial. Es decir, una entidad es capaz de cumplir formalmente con los requisitos (de documentación, supervisión, protección de datos, etc.) y, aun así, carecer de los recursos necesarios para cuestionar una recomendación automática. La presencia de una persona en el proceso no equivale por sí sola a control humano efectivo.

"La responsabilidad continúa siendo humana sobre el papel, pero el poder de decisión se ha desplazado de hecho hacia el sistema y hacia quien lo provee"

Para que la supervisión sea real y efectiva, el profesional debe tener acceso a la información relevante con el fin de comprender los límites del sistema. Asimismo, debe disponer de tiempo para revisar sus resultados y contar con autoridad para suspender o rechazar una decisión automatizada. Si se da la circunstancia de que no existen estas condiciones, encontramos que la responsabilidad continúa siendo humana sobre el papel, pero el poder de decisión se ha desplazado de hecho hacia el sistema y hacia quien lo provee.

Este es un problema que afecta de manera sustancial a las administraciones públicas. Aquí, la contratación de soluciones externas puede resolver una necesidad operativa, pero también puede reducir progresivamente la capacidad interna para diagnosticar problemas, diseñar alternativas o garantizar la continuidad del servicio. En caso de que cada modificación exija recurrir al proveedor, la organización pierde margen de maniobra. Pero si el proveedor cambia de estrategia, sube sus precios o abandona el producto, la dependencia se convierte en vulnerabilidad institucional.

La brecha de capacidades

El debate público sobre inteligencia artificial se concentra a menudo en la brecha de acceso. Esto es, en quién dispone de las mejores herramientas y quién queda excluido. Y esa desigualdad existe, pero no es la única a la que se debe prestar atención. Pongamos un ejemplo: dos personas con acceso al mismo sistema pueden recorrer trayectorias profesionales opuestas. Una puede utilizarlo para contrastar hipótesis, revisar evidencia y mejorar su juicio. Otra puede limitarse a aceptar respuestas prefabricadas y perder gradualmente la práctica necesaria para decidir de forma autónoma.

En este caso, la diferencia depende de cómo se organiza el trabajo. Muchas profesiones se aprenden mediante tareas rutinarias e intermedias: comparar expedientes, redactar primeras versiones, revisar anomalías, preparar diagnósticos preliminares o justificar una recomendación. Si esas actividades desaparecen por completo, los profesionales jóvenes pueden producir más desde el primer día, pero también pueden dejar de recorrer el proceso mediante el cual se adquiere experiencia. A largo plazo, la organización corre el riesgo de no disponer de expertos capaces de detectar errores, gestionar excepciones o supervisar sistemas complejos.

"En la administración, la automatización puede agilizar expedientes, pero debe preservarse la capacidad de explicar una decisión, revisar un sesgo y ofrecer una vía de recurso efectiva"

Hay varias áreas en las que la exposición sería crítica. En sanidad, una herramienta puede ayudar a priorizar casos, pero los profesionales deben conservar la capacidad de reconocer síntomas atípicos. En educación, los sistemas generativos pueden apoyar la preparación de materiales, pero no deberían sustituir el razonamiento pedagógico ni la evaluación contextual del alumnado. En la administración, la automatización puede agilizar expedientes, pero debe preservarse la capacidad de explicar una decisión, revisar un sesgo y ofrecer una vía de recurso efectiva.

Una agenda pública para España y Europa

La política pública debería evaluar estas dimensiones antes de financiar, adquirir o desplegar sistemas de inteligencia artificial. El criterio no puede ser únicamente cuánto tiempo o dinero ahorra una herramienta. Es también importante preguntarse qué competencias crea, cuáles reduce, qué conocimiento queda dentro de la institución y qué ocurriría si el sistema dejara de estar disponible.

Primero, todo gran proyecto público de inteligencia artificial debería incorporar una auditoría de capacidades humanas. No se trataría solo de evaluar riesgos técnicos, sino de identificar qué conocimientos se fortalecen, cuáles se externalizan y qué funciones críticas pueden deteriorarse.

Segundo, los contratos públicos deberían incluir obligaciones claras de formación, documentación y transferencia de conocimiento. La adquisición de una herramienta no debería concluir con su instalación. Debe existir un plan para que la organización comprenda su funcionamiento, pueda modificar procedimientos y mantenga alternativas operativas.

Tercero, el control humano debe ser verificable. Las instituciones deberían demostrar quién puede detener una decisión automática, con qué información y en qué plazo. Una cláusula genérica de supervisión no basta si los profesionales carecen de competencias o autoridad real.

Cuarto, es necesario preservar rutas profesionales que permitan formar expertos. La automatización no debería eliminar todas las tareas de aprendizaje. Parte del trabajo puede reservarse deliberadamente para el desarrollo de juicio, especialmente en los primeros años de carrera.

Quinto, las organizaciones deberían medir la dependencia de proveedores y su capacidad de continuidad operativa. Esto implica evaluar la portabilidad de los datos, la posibilidad de sustituir el sistema, el acceso a documentación suficiente y la existencia de equipos internos capaces de gestionar incidentes.

"Una política de inteligencia artificial madura no se limita a acelerar la adopción, sino que protege las condiciones que permiten utilizar la tecnología sin perder autonomía institucional"

Ninguna de estas medidas pretende suponer un freno a la innovación. Al contrario, buscan evitar que la eficiencia inmediata produzca fragilidad a largo plazo. Una política de inteligencia artificial madura no se limita a acelerar la adopción, sino que protege las condiciones que permiten utilizar la tecnología sin perder autonomía institucional.

Una oportunidad europea

Europa puede diferenciarse no solo mediante reglas, sino mediante una doctrina de capacidad institucional. Su ventaja no será competir exclusivamente por el tamaño de los modelos, sino demostrar que la inteligencia artificial puede integrarse sin erosionar el juicio profesional, la responsabilidad pública y la autonomía estratégica.

Para España, esta agenda ofrece una oportunidad concreta. La digitalización de las administraciones, del sistema sanitario, de la educación y de las pequeñas y medianas empresas puede convertirse en una política de fortalecimiento institucional si cada inversión tecnológica se acompaña de inversión en capacidades humanas. La productividad será más sostenible cuando la automatización amplíe el conocimiento disponible en lugar de sustituir las condiciones que lo producen.

"Una institución verdaderamente soberana no es la que evita toda dependencia tecnológica, sino la que conserva suficiente conocimiento y autoridad para elegir, corregir y sustituir sus sistemas"

La soberanía digital empieza por la infraestructura, pero termina en la capacidad de una sociedad para comprender, cuestionar y gobernar aquello de lo que depende. Una institución verdaderamente soberana no es la que evita toda dependencia tecnológica, sino la que conserva suficiente conocimiento y autoridad para elegir, corregir y, cuando sea necesario, sustituir sus sistemas.