Am 10. Oktober 1983 saß Ronald Reagan in Camp David und sah sich eine Vorabkopie eines Films an, den ABC im folgenden Monat ausstrahlen wollte. Er hieß Der Tag danach, und es zeigte einen nuklearen Schlagabtausch, der durch Lawrence, Kansas, und Kansas City raste: den Blitz, den Feuersturm, die Überlebenden, die langsam an Strahlung in den Ruinen von allem Vertrauten starben. In derselben Nacht schrieb Reagan in sein Tagebuch, dass der Film ihn „greatly depressed“ zurückgelassen habe. In demselben Eintrag fasste er einen Entschluss: Das Land müsse alles tun, damit ein Atomkrieg niemals stattfinde.
Sechs Wochen später, am 20. November, sahen rund 100 Millionen Amerikaner den gleichen Film. Es bleibt eine der meistgesehenen Fernsehsendungen in der Geschichte des Landes. Schulen schickten nach Hause Beratung. Netzwerke liefen Diskussionsrunden danach. Für eine Nacht konnten sich die Menschen einen Atomkrieg vorstellen, der eine gewöhnliche amerikanische Stadt traf.
Warum erreichte ihn ein Film, als die Briefings es nicht taten
Reagan war kein Mann, dem es an nuklearen Informationen mangelte. Er war über Wurfgewichte und Megatonnage informiert worden, über den einzigen integrierten Betriebsplan, darüber, wie viele Minuten er entscheiden müsste. Er war durch die Kriegsspiele gegangen. Nichts davon zeigte ihm, was die Bomben einer Stadt antun würden.
Der Herbst 1983 war bereits die gefährlichste Phase des späten Kalten Krieges, was teilweise erklärt, warum der Film so hart ankam. Im September hatte ein sowjetischer Jäger eine koreanische Passagiermaschine abgeschossen und 269 Menschen getötet. Im November, Tage vor der Ausstrahlung, lief eine NATO-Kommandostabsübung namens Able Archer so realistisch ab, dass Teile der sowjetischen Führung befürchteten, sie sei Tarnung für einen echten Erstschlag. Die Spannung war nicht theoretisch. In diesen Moment kamen zwei Stunden Primetime-Fernsehen, die zeigten, was die Spannung tatsächlich bedeutete, wenn sie brach.
Gefahr wird politisch, wenn Menschen es fühlen können, und Menschen fühlen Geschichten über bestimmte Menschen, nicht Statistiken über Bevölkerungen. Niemand kann sich die Todesrate eines Atomkrieges vorstellen. Fast jeder kann sich einen Arzt vorstellen, der beobachtet, wie sein Krankenhaus vergangene Kapazitäten füllt.
Von der Angst zur Unterschrift
Reagan hatte jahrelang vor 1983 eine persönliche Abneigung gegen Atomwaffen geäußert und einen echten Wunsch, sie verschwinden zu sehen. Die Wende in seiner zweiten Amtszeit hatte viele Urheber: einen neuen und anderen Gegenüber in Moskau, Hinterkanal-Diplomatie, die langsame Anhäufung seiner eigenen Überzeugungen. Der Film gehört in diesen Bogen als ein lebendiger Moment unter mehreren, nicht als der Hebel, der alles bewegte.
Im Oktober 1986 traf Reagan den sowjetischen Führer Michail Gorbatschow in Reykjavik und die beiden kamen überraschend nahe daran, der Abschaffung aller Atomwaffen zuzustimmen, bevor die Gespräche zusammenbrachen. Die Vorarbeiten hielten an. Am 8. Dezember 1987 unterzeichneten sie in Washington den Intermediate-Range Nuclear Forces Treaty. Sie tat etwas, was kein Rüstungskontrollabkommen zuvor getan hatte: Sie beseitigte eine ganze Waffenklasse, anstatt ihre Zahl zu begrenzen. Jeder bodengestützte ballistische und Marschflugkörper mit einer Reichweite zwischen 500 und 5.500 Kilometern sollte zerstört werden, und 1991 waren etwa 2.692 von ihnen verschwunden, die von Inspektoren überprüft wurden, die sich gegenseitig auf den Boden durften.
Nicholas Meyer, der Der Tag danach, hat gesagt, dass nach der Unterzeichnung des Vertrags, Wort erreichte ihn, dass sein Film eine Rolle gespielt hatte. Ein Präsident beobachtete eine Darstellung der Sache, die er verursachen konnte, notierte, dass sie ihn erschütterte, und fuhr fort, den Vertrag zu unterzeichnen, der eine Kategorie der Waffen verschrottete, die ihn verursacht hätten.
Was es lehrt und wo die Parallele bricht
Für alle, die daran arbeiten, eine Katastrophe durch künstliche Superintelligenz zu verhindern, ist die ermutigende Hälfte dieser Geschichte real. Eine Gefahr, die fern und technisch wirkte, wurde konkret gemacht, und die Politik bewegte sich. Ernsthafte Beschränkungen einer furchterregenden Technologie sind möglich; wir haben zugesehen, wie ein Vertrag eine Waffengattung unter verifizierter Inspektion abschaffte. Die Menschen, die darauf bestehen, dass rivalisierende Mächte niemals zustimmen können, sich selbst zu binden, müssen 1987 erklären.
Die Unähnlichkeit ist der Ort, an dem die Warnung liegt, und sie ist scharf. Jede Quelle der Furcht, die den Atomkrieg real machte, kam erst danach. Hiroshima und Nagasaki hatten bereits stattgefunden. Die Welt hatte vier Jahrzehnte unter der Bombe gelebt. Sogar Der Tag danach war eine Dramatisierung einer Ereigniskategorie, die die Menschheit in kleinerer Form bereits erlebt hatte. Die Erkenntnis kam aus dem Überleben.
Künstliche Superintelligenz bietet keinen solchen Lehrmeister. Es gibt kein Hiroshima, auf das man zeigen könnte, kein körniges Filmmaterial, keine Überlebenden, die man interviewen könnte, weil der Ausfallmodus, um den wir uns sorgen, einer ist, der möglicherweise keine zweite Chance lässt. Wird eine unkontrollierte Superintelligenz gebaut, bevor das Problem ihrer Kontrolle gelöst ist, gibt es keinen nächsten Tag, der gesendet werden könnte. Der Film, der uns warnen würde, kann nicht rechtzeitig gedreht werden, weil er erst danach gedreht werden könnte – und es gibt kein Danach.
Die Aufgabe ist also schwieriger als die, vor der Reagan stand, und sie weist in eine Richtung. Der Fall muss jetzt anschaulich gemacht werden, mit der Stärke von Argumenten und Weitblick anstelle von Trümmern, und er muss eher in Prävention als in Management enden. Kernwaffenkontrolle könnte es sich leisten, eine Geschichte der Erholung zu sein. Die Antwort auf Superintelligenz kann nicht. Die Stiftung argumentiert für eine Überprüftes internationales Verbot zum dauerhaften Aufbau von Superintelligenz. Superintelligenz kann nicht kontrolliert werden, weshalb die ganze Anstrengung auf die Jahre vor der Gefahr ausgerichtet ist, nicht auf die Jahre danach. Es wird keine Jahre danach geben.