La bomba fue construida, apuntada y, hasta ahora, nunca usada contra una ciudad después de 1945. Las personas que hicieron que "hasta ahora" se mantengan, las que pasaron la Guerra Fría construyendo las prohibiciones de prueba, las líneas telefónicas y los regímenes de verificación que impidieron que un enfrentamiento aterrador se convierta en final, hicieron algunas de las obras más importantes del siglo pasado. La mayoría nunca será famosa por ello. La prevención es silenciosa por naturaleza. Cuando funciona, no pasa nada, y nada es difícil de poner en un monumento.

La misma forma, una nueva arma

Cuando digo que estamos viviendo a través de una nueva Guerra Fría, me refiero a la misma forma: Estados Unidos y China corriendo hacia una tecnología ni puede dejar que el otro alcance primero, que podría terminar la historia humana si va mal, y que nadie puede reclamar honestamente el control. Cierra la bomba de hidrógeno para la superinteligencia artificial y tienes 1958 y 2026.

No soy el único que escucha el eco. En junio, el director de la CIA le dijo a una audiencia en Washington que no estaría fuera de lugar llamar a las capacidades de la IA de frontera actual "armas nucleares digitales."

Las diferencias van en la dirección equivocada

Hay diferencias reales entre entonces y ahora, y esta es la parte que me mantiene despierto. Casi todas ellas hacen nuestra situación más difícil, no más fácil. Un arma nuclear permanece en manos humanas; una superinteligencia no. El material nuclear es físico, por lo que puede extraerse y contarse. Las entradas a la IA son chips y código, más difíciles de ver y más fáciles de ocultar, aunque no es imposible de gobernar. Y la Guerra Fría les entregó a sus participantes algo que quizá no tengamos: tiempo. El mundo tuvo años para asimilar Hiroshima, para sentir el miedo en el estómago y para construir instituciones en respuesta. La capacidad de la IA avanza más rápido que cualquier institución que tengamos.

Lo que la Guerra Fría realmente demostró

Pero la misma era demolió la afirmación en la que más se apoyan los aceleracionistas: que rivales que no se fían entre sí nunca pueden acordar contenerse. Washington y Moscú no confiaban en absoluto el uno en el otro, y aun así firmaron acuerdos de control de armas vinculantes y verificables, porque ambos veían que una carrera sin límites los dejaba peor que una regla que los atara por igual. La desconfianza era la razón de los tratados, no el obstáculo para ellos. Si dos gobiernos pudieron encontrar esa lógica con decenas de miles de ojivas apuntando a las ciudades del otro, la afirmación confiada de que Estados Unidos y China nunca pueden hacer lo mismo con la IA es una coartada para continuar, disfrazada de realismo duro.

Por qué existe la Fundación

Me niego a ser parte de la generación que construyó el arma capaz de apuntarse y se dijo, todo el camino allí, que no tenía elección.

Las personas que evitaron lo peor de la Guerra Fría lo lograron insistiendo, pese a las objeciones de quienes los llamaban ingenuos, en que ciertas tecnologías son demasiado peligrosas para dejarlas en manos de una carrera. Tenían razón entonces. La única tarea que importa ahora es volver a tener razón, y a tiempo.