Le 10 octobre 1983, à Camp David, Ronald Reagan s’est assis pour regarder une copie anticipée d’un film qu’ABC prévoyait de diffuser le mois suivant. Il s’intitulait Le jour d'après, et il montrait un échange nucléaire ravageant Lawrence, Kansas, et Kansas City : l'éclair, la tempête de feu, les survivants mourant lentement des suites des radiations dans les ruines de tout ce qui leur était familier. Ce soir-là, Reagan a écrit dans son journal que le film l'avait « profondément déprimé ». Dans la même entrée, il a formulé une résolution : le pays devait tout faire pour qu'une guerre nucléaire n'ait jamais lieu.
Six semaines plus tard, le 20 novembre, environ 100 millions d'Américains ont regardé le même film. Il demeure l'une des émissions de télévision les plus regardées de l'histoire du pays. Les écoles ont envoyé des avis à domicile. Les réseaux ont ensuite organisé des tables rondes. Pendant une nuit, les gens pouvaient imaginer une guerre nucléaire frappant une ville américaine ordinaire.
Pourquoi un film l'a touché quand les briefings n'y étaient pas parvenus
Reagan n'a pas manqué d'informations nucléaires. Il avait été informé sur les poids de lancement et le mégatonnage, sur le plan opérationnel intégré unique, sur le nombre de minutes qu'il aurait à décider. Il avait traversé les jeux de guerre. Rien de tout ça ne lui a montré ce que les bombes feraient à une ville.
L’automne 1983 était déjà la période la plus dangereuse de la fin de la guerre froide, ce qui explique en partie pourquoi le film a eu un tel impact. En septembre, un chasseur soviétique avait abattu un avion de ligne coréen, tuant 269 personnes. En novembre, quelques jours avant la diffusion, un exercice de commandement NATO appelé Able Archer s’était déroulé de manière si réaliste que des éléments de la direction soviétique ont craint qu’il ne serve de couverture à une véritable première frappe. La tension n’était pas théorique. Dans ce contexte sont arrivées deux heures de télévision en prime time montrant ce que cette tension signifiait réellement si elle éclatait.
Le danger devient politique quand les gens peuvent le sentir, et les gens ressentent des histoires sur des êtres humains spécifiques, et non des statistiques sur les populations. Personne ne peut imaginer la mort d'une guerre nucléaire. Presque n'importe qui peut imaginer un médecin regardant son hôpital remplir la capacité passée.
De l'effroi à une signature
Reagan avait exprimé pendant des années une aversion personnelle pour les armes nucléaires et un souhait sincère de les voir disparaître. Le tournant de son second mandat a eu de nombreux auteurs : un nouveau et différent interlocuteur à Moscou, une diplomatie en coulisses, l'accumulation lente de ses propres convictions. Le film s'inscrit dans cet arc, comme un moment vivant parmi d'autres, pas comme le levier qui a tout fait bouger.
En octobre 1986, Reagan a rencontré le dirigeant soviétique Mikhail Gorbatchev à Reykjavik et les deux sont arrivés à bout de l'idée d'abolir toutes les armes nucléaires avant l'effondrement des pourparlers. Le travail de fond s'est déroulé. Le 8 décembre 1987, à Washington, ils ont signé le Traité sur les forces nucléaires à portée intermédiaire. Il n'a fait quelque chose qu'aucun accord sur le contrôle des armes n'avait fait auparavant : il a éliminé toute une classe d'armes plutôt que de les encaisser. Chaque missile balistique et de croisière lancé au sol, d'une portée comprise entre 500 et 5 500 kilomètres, devait être détruit et, en 1991, quelque 2 692 d'entre eux avaient disparu, vérifiés par les inspecteurs autorisés sur le sol de l'autre.
Nicholas Meyer, qui a réalisé Le jour d'après, a dit qu'après la signature du traité, il a appris que son film y avait joué un rôle. Un président a vu une représentation de ce qu'il avait le pouvoir de causer, a enregistré qu'il l'avait secoué, et a continué à signer le traité qui a mis à la ferraille une catégorie d'armes qui l'aurait causé.
Ce qu'elle nous apprend, et où l'analogie s'arrête
Pour quiconque travaille à prévenir une catastrophe due à une superintelligence artificielle, la moitié encourageante de cette histoire est réelle. Un danger qui semblait lointain et technique est devenu concret, et la politique a bougé. Des limites sérieuses à une technologie redoutable sont possibles ; nous avons vu un traité éliminer une catégorie d’armes sous inspection vérifiée. Ceux qui affirment que des puissances rivales ne pourront jamais s’accorder pour se lier doivent expliquer 1987.
C’est dans la dissemblance que réside l’avertissement, et il est tranchant. Toutes les sources d’effroi qui ont rendu la guerre nucléaire réelle sont venues après coup. Hiroshima et Nagasaki avaient déjà eu lieu. Le monde avait vécu sous la bombe pendant quatre décennies. Même Le jour d'après était une dramatisation d’une catégorie d’événements que l’humanité avait, sous une forme plus réduite, déjà vécus. L’apprentissage venait de la survie.
La superintelligence artificielle n'offre pas un tel tuteur. Il n'y a pas d'Hiroshima à montrer, pas d'images granuleuses, pas de survivants à interviewer, car le mode d'échec qui nous préoccupe est celui qui pourrait ne pas laisser de seconde chance. Si une superintelligence incontrôlée est construite avant que le problème de son contrôle ne soit résolu, il n'y a pas de lendemain à diffuser. Le film qui nous aurait avertis ne peut pas être réalisé à temps, car il ne peut l'être qu'après, et il n'y a pas d'après.
La tâche est donc plus difficile que celle de Reagan, et elle pointe dans une direction. Le cas doit être rendu vif maintenant, sur la force de l'argumentation et de la prévoyance plutôt que l'épave, et il doit se terminer dans la prévention plutôt que la gestion. La maîtrise des armes nucléaires pourrait être une histoire de récupération. La réponse à la superintelligence ne peut pas. La Fondation plaide pour interdiction internationale vérifiée sur la superintelligence de construction en permanence. La superintelligence ne peut pas être contrôlée, c'est pourquoi tout l'effort vise les années avant le danger, pas les années après. Il n'y aura pas d'années après.