El 10 de octubre de 1983, en Camp David, Ronald Reagan se sentó a ver una copia anticipada de una película que ABC planeaba emitir el mes siguiente. Se llamaba El día después, y mostraba un intercambio nuclear que arrasaba Lawrence, Kansas, y Kansas City: el destello, la tormenta de fuego, los supervivientes muriendo lentamente por radiación entre las ruinas de todo lo familiar. Esa noche Reagan escribió en su diario que la película lo dejó «muy deprimido». En la misma entrada plasmó una resolución: el país tenía que hacer todo lo posible para que nunca ocurriera una guerra nuclear.

Seis semanas después, el 20 de noviembre, aproximadamente 100 millones de estadounidenses vieron la misma película. Sigue siendo uno de los programas de televisión más vistos de la historia del país. Las escuelas enviaron asesorías a domicilio. Las redes llevaron a cabo paneles de discusión después. Por una noche, la gente podría imaginar una guerra nuclear golpeando a un pueblo americano común.

Por qué una película llegó a él cuando los informes no lo habían hecho

Reagan no era un hombre corto de información nuclear. Había sido informado sobre los pesos y megatonnage, sobre el plan operativo integrado único, sobre cuántos minutos tendría que decidir. Había caminado por los juegos de guerra. Nada de eso le mostró lo que las bombas le harían a un pueblo.

El otoño de 1983 ya era el tramo más peligroso de la Guerra Fría tardía, lo que explica en parte por qué la película impactó tanto. En septiembre un caza soviético derribó un avión de línea coreano, matando a 269 personas. En noviembre, días antes de la emisión, un ejercicio de mando de NATO llamado Able Archer se desarrolló de forma tan realista que partes del liderazgo soviético temieron que fuera una tapadera para un primer ataque real. La tensión no era teórica. En ese momento llegaron dos horas de televisión en horario estelar que mostraban lo que esa tensión significaba realmente si estallaba.

El peligro se vuelve político cuando la gente puede sentirlo, y la gente siente historias sobre seres humanos específicos, no estadísticas sobre poblaciones. Nadie puede imaginar el recuento de muerte de una guerra nuclear. Casi nadie puede imaginar a un médico viendo su hospital llenar la capacidad pasada.

Del pavor a una firma

Reagan había expresado durante años un rechazo personal a las armas nucleares y un deseo genuino de verlas desaparecer. El cambio en su segundo mandato tuvo muchos autores: un nuevo y diferente interlocutor en Moscú, diplomacia por canales secundarios, la lenta acumulación de sus propias convicciones. La película pertenece a ese arco, como un momento vívido entre varios, no como la palanca que movió todo.

En octubre de 1986, Reagan se reunió con el líder soviético Mikhail Gorbachev en Reykjavik y los dos se acercaron asombrosamente a acordar abolir todas las armas nucleares antes de que estallaran las conversaciones. Las bases. El 8 de diciembre de 1987, en Washington, firmaron el Tratado de Fuerzas Nucleares Intermedio-Range. Hizo algo que no había hecho antes un acuerdo de control de armamentos: eliminó a toda una clase de armas en lugar de captar sus números. Todos los misiles balísticos y de crucero con un alcance de 500 a 5.500 kilómetros fueron destruidos, y para 1991 unos 2.692 de ellos se habían ido, verificados por inspectores permitidos en el suelo del otro.

Nicholas Meyer, quien dirigió El día después, ha dicho que después de la firma del tratado, palabra llegó a él que su película había jugado algo en él. Un presidente vio una representación de lo que tenía el poder de causar, grabó que lo agitó, y siguió firmando el tratado que rasgó una categoría de las armas que lo habrían causado.

Qué enseña, y dónde se rompe el paralelo

Para cualquiera que trabaje para prevenir una catástrofe causada por la superinteligencia artificial, la mitad alentadora de esta historia es real. Un peligro que parecía lejano y técnico se volvió concreto, y la política se movió. Es posible imponer límites serios a una tecnología temible; hemos visto cómo un tratado elimina una clase de armas bajo inspección verificada. Quienes insisten en que las potencias rivales nunca pueden acordar atarse tienen que explicar 1987.

La desanalogía es donde vive la advertencia, y es afilada. Todas las fuentes de temor que hicieron real la guerra nuclear llegaron después del hecho. Hiroshima y Nagasaki ya habían ocurrido. El mundo había vivido bajo la bomba durante cuatro décadas. Incluso El día después fue una dramatización de una categoría de evento que la humanidad ya había presenciado, en una forma más pequeña. El aprendizaje vino de la supervivencia.

La superinteligencia artificial no ofrece ese tutor. No hay un Hiroshima al que señalar, ni imágenes granuladas, ni sobrevivientes a los que entrevistar, porque el modo de fallo que nos preocupa es uno que quizá no deje una segunda oportunidad. Si se construye una superinteligencia descontrolada antes de resolver el problema de controlarla, no habrá un día después que transmitir. La película que nos habría advertido no puede rodarse a tiempo, porque solo podría hacerse después, y no hay después.

Así que la tarea es más difícil que la que se enfrenta Reagan, y apunta en una dirección. El caso tiene que ser vívido ahora, sobre la fuerza del argumento y la previsión en lugar de destrozar, y tiene que terminar en la prevención en lugar de la gestión. El control de las armas nucleares podría permitirse ser una historia de recuperación. La respuesta a la superinteligencia no puede. La Fundación argumenta por un prohibición internacional verificada sobre la construcción de superinteligencia permanente. La superinteligencia no puede ser controlada, por lo que todo el esfuerzo está dirigido a los años antes del peligro, no los años después. No habrá años después.