¿Es posible que la inteligencia artificial acabe tomando el control del arsenal atómico?

Las recientes declaraciones de Jacob Coxon, exinvestigador de OpenAI y Anthropic, sobre el desarrollo descontrolado de la inteligencia artificial (IA) han reavivado un intenso debate en las últimas horas. Resulta especialmente alarmante la contestación dada por Evan Hubinger, responsable de ciencia de alineamiento de Anthropic, quien sostiene que existe más de un 10% de probabilidades de que la IA provoque la extinción de toda la humanidad en la próxima década. A pesar de que ni OpenAI ni Anthropic se han pronunciado de manera oficial al momento de escribir estas líneas, la controversia se ha extendido a discusiones sobre la proliferación de armas químicas y biológicas, e incluso el hipotético control del arsenal nuclear.

En relación con este último punto, comprender la doctrina nuclear resulta indispensable para valorar hasta qué punto la IA puede llegar a operar. Frente al mito extendido de que esta podría llegar a infiltrarse en los sistemas de lanzamiento de misiles balísticos intercontinentales (ICBM) y autorizar un ataque ignorando las órdenes dadas por una autoridad humana, la realidad práctica muestra un escenario radicalmente distinto. En primer lugar, los sistemas de mando, control y comunicaciones nucleares (NC3) operan en redes aisladas (air-gapped), desvinculadas de internet o de cualquier infraestructura en la nube. Un acceso externo resulta inviable a menos que los propios centros de mando decidan conectarse a la red, lo cual pondría en riesgo no solo el propio hermetismo necesario para garantizar un lanzamiento verificado, sino los propios cimientos de la disuasión nuclear. Exponer estos sistemas comprometería la capacidad de respuesta y precipitaría una represalia inmediata, lo que consecuentemente provocaría una destrucción mutua asegurada (MAD).

"Un acceso externo resulta inviable a menos que los propios centros de mando decidan conectarse a la red, lo cual pondría en riesgo los cimientos de la disuasión nuclear"

En segundo lugar, cualquier orden de lanzamiento exige cadenas de verificación de dos o más pasos, así como un control físico y humano mediante claves o pasos de autenticación. Incluso la famosa "mano muerta" soviética o perímetro requiere una activación previa por parte de humanos cuando se percibe una amenaza extrema. En tiempos de paz, el sistema permanece apagado para evitar que una falsa alarma o un fallo técnico provoque un ataque accidental que desencadene una guerra por error.

Si bien la IA difícilmente puede autorizar un lanzamiento de un misil balístico, el verdadero peligro de esta tecnología reside en su creciente integración en fases de detección, análisis de datos y alerta temprana. Con el desarrollo de misiles hipersónicos y la consiguiente reducción de los tiempos de reacción a escasos minutos, la dependencia de los algoritmos se ha vuelto casi ineludible. El riesgo crítico surge en escenarios de error durante una crisis, como ocurrió con el incidente de Stanislav Petrov, en los que un mando militar sometido a una presión extrema y a un tiempo límite podría confiar ciegamente en la recomendación de un algoritmo defectuoso.

La disuasión en la era de la IA no es una lucha contra máquinas autónomas a lo cliché hollywoodiense. El verdadero riesgo reside en la trampa de delegar la cadena de detección y asesoramiento estratégico en algoritmos, especialmente en los momentos en los que la prudencia humana es más necesaria que nunca.