Dean Ball (OpenAI): "La IA no debería ser una carrera"

Es difícil hablar hoy del futuro de la inteligencia artificial sin acabar hablando de casi todo lo demás. Del trabajo y de la distribución de la riqueza, pero también del poder, de la relación entre Estados Unidos y China, del lugar que puede ocupar Europa o de hasta qué punto seremos capaces de controlar unos sistemas cada vez más autónomos. La tecnología avanza deprisa y, con ella, también las preguntas que deja abiertas.

La misma semana en la que OpenAI lanza su último modelo, GPT6-Astra, conversamos con el responsable de futuros estratégicos de la compañía, Dean Ball. Su tarea, explica él mismo, consiste en pensar qué escenarios puede abrir la IA y qué decisiones del presente pueden acercarnos a unos y alejarnos de otros. En octubre será además uno de los ponentes del Foro La Toja 2026, que Agenda Pública volverá a cubrir un año más desde Illa da Toxa.

Ball pone el foco en la concentración de poder, defiende que los gobiernos deberían disponer de mecanismos para ralentizar el desarrollo de la IA si las circunstancias lo exigen y rechaza una de las metáforas que más ha condicionado el debate tecnológico: la de la "carrera". Como ciudadano, va incluso un paso más allá: "Una carrera armamentística en este ámbito no beneficia a nadie", reitera. También deja un mensaje especialmente directo para este lado del Atlántico: "Europa tiene que construir centros de datos y dejar de darle tantas vueltas". Para Ball, el continente aún tiene margen para aprovechar su capacidad industrial, pero debe asumir que todo esto está ocurriendo con mucha más urgencia de la que parece percibir.

Su cargo actual en OpenAI es responsable de futuros estratégicos. Así que, en el contexto de todo lo que está ocurriendo con la IA, ¿cuál es su visión sobre esos distintos futuros que tenemos por delante? ¿Qué posibilidades cree que es más probable que se desarrollen a medida que la tecnología acelera?

Creo que una de las cosas interesantes de vivir en este momento es que, por primera vez en mucho tiempo, resulta realmente difícil imaginar cómo será el futuro.

Acabo de tener un hijo. Tiene ocho meses. Lo miro y me resulta muy difícil imaginar cómo será probablemente su vida cuando tenga veinte años.

No creo que eso ocurriera cuando yo era un bebé, en 1992. No creo que mis padres mirasen hacia 2012 y pensasen: "Esto va a ser inconcebiblemente distinto de lo que tenemos hoy. Ni siquiera puedo imaginar cómo será 2012". Seguro que pensaban que sería diferente, pero no que la propia naturaleza del papel del ser humano en la economía fuera prácticamente imposible de prever. Hoy existe una incertidumbre enorme en torno a eso.

Por eso creo, básicamente, que el trabajo de nuestro equipo consiste en concebir el futuro como una distribución de muchos resultados posibles. Imagina no uno o dos escenarios, sino millones de futuros potenciales, y entonces pregúntate: a medida que nos movemos entre ellos, ¿cuáles son mejores? ¿Cuáles queremos evitar? ¿Sobre cuáles ni siquiera estamos seguros?

"El trabajo de nuestro equipo consiste en concebir el futuro como una distribución de muchos resultados posibles"

Determinar qué puede ser deseable es, en sí mismo, muy complicado. No necesariamente nos corresponde a nosotros decirle al mundo cuál debería ser el futuro deseable. Pero sí creo que tenemos la responsabilidad de explicar cuál consideramos que es el abanico realista de resultados posibles, que creemos que es bastante amplio, y señalar qué palancas tenemos hoy a nuestra disposición para orientar el mundo hacia los futuros en los que preferiríamos vivir y alejarnos de aquellos en los que no.

Uno de los ámbitos que genera más incertidumbre es el futuro del trabajo. Afecta directamente a las personas, no solo a través de sus ingresos, sino también por el papel que desempeñan en el mundo y por su sentido de propósito. Parece haber dos grandes campos: uno más pesimista, que espera que la IA provoque grandes disrupciones y elimine muchos empleos; y otro que habla de abundancia y de superar la escasez. ¿Dónde se sitúa? ¿Y qué ocurre con el lado de la demanda? Si la gente no tiene renta disponible, ¿quién va a pagar realmente esa abundancia?

Todas estas cuestiones dependen, hasta cierto punto, de resultados económicos sobre los que quizá tengamos un margen limitado de actuación. Habrá ámbitos en los que la IA seguramente superará al trabajo humano. Pero creo que buena parte de esto dependerá de cómo sean nuestras instituciones. ¿Qué incentivan nuestras instituciones?

Puedes imaginar muchos trabajos en los que quizá la IA pueda hacer una determinada tarea o quizá no, pero en los que, en cualquier caso, los seres humanos sencillamente prefieran relacionarse con otro ser humano. O quizá llegue a ser un lujo interactuar con otra persona. Incluso podría convertirse en una especie de símbolo de estatus tener más seres humanos a tu alrededor porque serán muy caros.

Pero para eso las preferencias de los seres humanos tienen que seguir importando en el mundo. Eso es lo importante.

Lo que necesitamos es garantizar que las instituciones incentiven un mundo en el que las preferencias humanas sigan importando. Y creo que la mejor manera que conocemos de hacerlo es asegurarnos de que el poder esté distribuido por toda la economía y por toda la sociedad: tanto el poder político como el económico. Hay que evitar enormes concentraciones de poder que hagan que las preferencias individuales de las personas importen muy poco. Creo que eso es lo principal que debemos evitar.

Hay muchas otras cuestiones, pero, si tuviera que identificar el problema fundamental, creo que realmente es la concentración de poder y cómo evitarla.

"Hay que evitar enormes concentraciones de poder que hagan que las preferencias individuales de las personas importen muy poco"

Hay muchas formas de hacerlo. La respuesta podría acabar implicando algún tipo de redistribución de la riqueza. Podría tener que ver con distintos enfoques sobre la responsabilidad jurídica. Podría plantear preguntas sobre quién tiene permitido poseer bienes. ¿Pueden las IA ser propietarias de bienes por sí mismas? ¿Pueden realizar transacciones patrimoniales por sí mismas? Son preguntas realmente interesantes.

Habla de este equilibrio de poder en su última publicación en Substack, donde sostiene que las IA pueden acabar convirtiéndose inevitablemente en actores económicos autosoberanos y plantea qué podríamos hacer colectivamente como respuesta.

Deberíamos impedir que ocurran determinadas cosas. Deberíamos establecer disposiciones legales explícitas que impidan, por ejemplo, que las IA sean propietarias de bienes.

Lo que afirmo en ese artículo es que probablemente sea ya inevitable que existan IA que actúen como agentes económicos independientes, pero hay muchas formas distintas de limitar su acceso a bienes inmuebles en la economía: limitar su capacidad para poseer inmuebles y limitar su capacidad para transformar por sí mismas el mundo físico. Y creo que deberíamos hacer todo eso.

"Probablemente sea ya inevitable que existan IA que actúen como agentes económicos independientes, pero hay muchas formas distintas de limitar su acceso a bienes inmuebles"

Ese artículo es un buen ejemplo de lo que comentaba antes. Determinados fenómenos pueden ser inevitables, pero eso no significa que nosotros no tengamos capacidad de actuación. Significa que el fenómeno puede ser inevitable mientras seguimos pudiendo ejercer nuestra capacidad de decisión mediante las elecciones que hacemos sobre legislación, políticas públicas y, en última instancia, las instituciones que esas decisiones crean.

A raíz del incidente de Hugging Face estamos empezando a ver respuestas políticas que apuntan a ralentizar o pausar el desarrollo de la IA. El senador Bernie Sanders, por ejemplo, acaba de pedir una pausa inmediata de la IA y Jean-Luc Mélenchon se ha hecho eco de esa posición en Francia. También estamos viendo oposición política a infraestructuras como los centros de datos. ¿Cómo valora esa respuesta política? ¿Ralentizar la IA es un camino útil y viable?

No he estudiado con suficiente profundidad la propuesta del senador Sanders, así que no estoy cualificado para comentarla. Se publicó apenas el 3 de septiembre, y ese día también tuvimos algunas cosas entre manos en OpenAI [la compañía había presentado GPT-6 Astra, su nuevo modelo].

Pero sí conozco mucho mejor Pacing the Frontier, una carta que se publicó hace un par de semanas y que firmaron varios empleados de laboratorios de frontera, incluido yo.

En esa carta decimos que creemos que debería ser una prioridad importante para los gobiernos averiguar exactamente cómo podríamos modular el ritmo de desarrollo de la IA para que, si quisiéramos ralentizar la velocidad a la que está acelerando, pudiéramos hacerlo.

Es un terreno jurídico muy delicado. Hay que tener muchísimo cuidado porque existen formas de hacer algo así que podrían acabar convirtiéndose en una apropiación enormemente tiránica de poder por parte del Gobierno sobre una tecnología que creo que va a ser muy importante para la libertad de expresión y los derechos individuales de las personas. Así que hay que equilibrar esas preocupaciones.

"Debería ser una prioridad importante para los gobiernos averiguar exactamente cómo podríamos modular el ritmo de desarrollo de la IA"

Sospecho que, en algún momento, probablemente se convertirá en una cuestión de consenso político que queramos disponer de la capacidad de ralentizar deliberadamente el ritmo de aceleración en determinadas circunstancias. Pero hay que tener muchísimo cuidado con cómo se diseña esa capacidad.

Quiero seguir con ese punto, porque mucha gente sostendría que la propia competición geopolítica está empujando a acelerar el desarrollo de la IA. Fue el principal redactor del equipo de Winning the Race: America's AI Action Plan. Si ralentizar el ritmo de desarrollo de la IA pudiera conducir a mejores resultados a escala global, ¿también tenemos que alejarnos de la idea de que la IA es una carrera armamentística? ¿Hace eso necesaria una mayor cooperación con China? ¿Es la posible "ventaja militar perpetua" un riesgo demasiado grande como para colaborar?

En última instancia, las cuestiones relativas a la relación entre Estados Unidos y China, la competición geopolítica y todo este tipo de asuntos son decisiones que toman —y deben tomar— los dirigentes electos de Estados Unidos, no las empresas privadas. Por eso no creo que me corresponda opinar sobre cuál debería ser nuestra posición geopolítica respecto a China.

Lo que sí creo que nos corresponde en OpenAI es ser transparentes sobre aquello que estamos viendo en la frontera tecnológica y que los gobiernos claramente no están viendo, e informar con franqueza a nuestro Gobierno de esos avances para que pueda tomar decisiones bien fundamentadas sobre cómo quiere actuar.

Ahora bien, hablando como ciudadano particular, diría que una carrera armamentística en este ámbito no beneficia a nadie.

Si pudiera cambiar una sola cosa del AI Action Plan, sería el título, Winning the Race. Nunca me gustó. Entiendo por qué lo elegimos, pero siempre he pensado que la metáfora de la carrera era mala.

Lo escribí públicamente después de dejar la Casa Blanca. No creo que debamos pensar en la IA como una carrera. Creo que es un error.

¿Qué papel puede seguir desempeñando Europa en la IA? Y, teniendo en cuenta el estado actual de las relaciones transatlánticas, ¿qué importancia tiene la relación entre Europa y Estados Unidos dentro de esta competición geopolítica más amplia impulsada por la innovación tecnológica?

Creo que Europa tiene algunos problemas estructurales bastante profundos, pero también oportunidades realmente extraordinarias si juega bien sus cartas. Todos tenemos que recorrer un camino estrecho, y Europa también.

"Nos corresponde ser transparentes sobre aquello que estamos viendo en la frontera tecnológica y que los gobiernos claramente no están viendo"

Una de las grandes ventajas de Europa es que posee mucha experiencia industrial en el mundo físico. Los europeos saben fabricar cosas complicadas. Y no se trata solo de máquinas EUV [sistemas de litografía ultravioleta extrema para fabricar chips avanzados] o de automóviles. Europa fabrica todo tipo de productos complejos.

Europa tiene que ser inteligente a la hora de proteger esas industrias, hacerlas crecer y cultivar nuevos ámbitos de conocimiento industrial vinculados al mundo físico. Como consecuencia de los sistemas que estamos construyendo en Estados Unidos, habrá una cantidad enorme de cosas extraordinarias que será necesario construir en el mundo físico. Y Estados Unidos, por sí solo, sencillamente no podrá construirlas todas.

Por eso Europa debería dejar de preocuparse tanto por la "IA soberana", entendida como construir desde cero sus propios sistemas de inteligencia artificial, y concentrarse, en cambio, en desarrollar capacidad industrial física.

El otro punto es que Europa tiene que construir centros de datos y dejar de darle tantas vueltas. De verdad. Tiene que hacerlo. Y eso va a necesitar del impulso del sector privado, no del sector público. Creo que un enfoque liderado por el sector público probablemente esté condenado al fracaso en este ámbito.

Europa tiene que entender que todo esto está ocurriendo con muchísima, muchísima, muchísima —y quiero decir "muchísima" una vez más— más urgencia de la que parece percibir. Es perfectamente posible quedarse muy atrás, y Europa no debería permitir que eso le ocurra.

Probablemente también le convendría reducir su deuda tan rápido como pueda porque los tipos de interés van a subir.

También ha sido muy ambicioso en materia de transparencia y trazabilidad. Una de las cuestiones más controvertidas últimamente es la arquitectura en torno a la cadena de pensamiento [por la que el modelo escribe pasos intermedios mientras razona, que actúan como trazas] y la posibilidad de que quienes desarrollan los modelos los hagan menos transparentes a medida que aumentan sus capacidades. Después del incidente de Hugging Face —que OpenAI describió como un "warning shot"—, preocupa que podamos llegar a un punto en el que incluso esas señales de advertencia sean más difíciles de entender. ¿Cómo ve la controversia en torno a la cadena de pensamiento? ¿Podrían los gobiernos acabar regulando y exigiendo mecanismos para auditar qué son capaces de hacer los modelos y evaluar su alineamiento?

Cuando creamos los modelos de razonamiento en OpenAI, con el modelo que acabó convirtiéndose en o1, una de las formas en las que funcionaban era mediante una especie de monólogo interno o bloc de notas. El modelo podía razonar sobre problemas difíciles de una manera parecida a como tú resolverías un problema matemático complicado escribiendo los distintos pasos.

Cuando eres muy pequeño, quizá necesites escribir en el papel algo tan básico como 3 + 4. Cuando eres mayor y estás resolviendo, por ejemplo, un problema de cálculo, hay operaciones aritméticas básicas que haces automáticamente en tu cabeza. No necesitas escribir necesariamente cada uno de esos pasos porque estás pensando en matemáticas de un nivel superior.

Creo que con la capacidad de monitorizar la cadena de pensamiento está sucediendo algo parecido.

Los modelos se están volviendo tan inteligentes que pueden realizar cálculos muy difíciles y mucho más complejos, por así decirlo, "dentro de su cabeza", sin necesidad de escribir cada uno de los pasos. Eso puede dificultar que podamos monitorizar lo que está haciendo el modelo.

Mucha gente ya anticipaba que esto podía ocurrir, y es una de las razones por las que creo que cada vez está resultando más difícil para la industria —no solo para OpenAI, sino para el sector en su conjunto— ofrecer garantías sólidas sobre qué creemos que hará o no hará un modelo recién entrenado.

Así que sí, es un problema real.

"Los modelos se están volviendo tan inteligentes que pueden realizar cálculos muy difíciles y mucho más complejos, por así decirlo, «dentro de su cabeza»"

No creo que sea insuperable. Como muchos otros problemas con los que nos hemos encontrado en este campo a lo largo de los años, creo que puede abordarse mediante una combinación de personas inteligentes, capacidad de computación y, cada vez más, los propios sistemas de inteligencia artificial.

Hay otras formas de mejorar la capacidad de monitorización. Se pueden hacer los sistemas más interpretables. Se puede trabajar en el alineamiento de la IA. Se pueden hacer muchas cosas, pero requieren un esfuerzo deliberado.

Y quizá, en lugar de limitarnos a modular el avance de la IA y no hacer nada más, podríamos ralentizar durante seis o doce meses el ritmo al que aumentan las capacidades de inteligencia mientras realizamos un esfuerzo concertado sobre este tipo de cuestiones técnicas para hacer los modelos más fáciles de monitorizar.

Muchas gracias.