Die Bombe wurde gebaut, gezielt und bisher nie wieder gegen eine Stadt nach 1945 eingesetzt. Die Leute, die das "bisher" gemacht haben, diejenigen, die den Kalten Krieg damit verbracht haben, die Testverbote, die Hotlines und die Verifikationsregime aufzubauen, die eine schreckliche Pattsituation davon abgehalten haben, eine letzte zu werden, haben einige der wichtigsten Arbeiten des letzten Jahrhunderts geleistet. Die meisten von ihnen werden nie dafür berühmt sein. Prävention ist von Natur aus ruhig. Wenn es funktioniert, passiert nichts, und nichts ist schwer, ein Denkmal anzulegen.

Dieselbe Form, eine neue Waffe

Wenn ich sage, dass wir einen neuen Kalten Krieg durchleben, meine ich die gleiche Form: Die Vereinigten Staaten und China rasen auf eine Technologie zu, die keiner der beiden zuerst erreichen kann, die die menschliche Geschichte beenden könnte, wenn sie schief geht, und die niemand ehrlich kontrollieren kann. Tauschen Sie die Wasserstoffbombe gegen künstliche Superintelligenz und Sie haben 1958 und 2026.

Ich bin nicht der Einzige, der das Echo hört. Im Juni sagte der Direktor der CIA vor einem Publikum in Washington, es wäre nicht fehl am Platz, die Fähigkeiten heutiger Frontier-KI "digitale Atomwaffen."

Die Unterschiede laufen in die falsche Richtung

Es gibt echte Unterschiede zwischen damals und heute, und genau das hält mich wach. Fast alle davon machen unsere Lage schwieriger, nicht leichter. Eine Atomwaffe bleibt in menschlichen Händen; eine Superintelligenz würde nicht. Nuklearmaterial ist physisch, daher kann es abgebaut und gezählt werden. Die Inputs für KI sind Chips und Code, schwerer zu sehen und leichter zu verbergen, obwohl nicht unmöglich zu regieren. Und der Kalte Krieg hat seinen Teilnehmern etwas gegeben, das wir vielleicht nicht bekommen: Zeit. Die Welt hatte Jahre, um Hiroshima zu verarbeiten, die Angst im Bauch zu spüren und Institutionen als Antwort aufzubauen. AI Capability wächst schneller, als jede Institution, die wir haben, mithalten kann.

Was der Kalte Krieg tatsächlich bewiesen hat

Doch dieselbe Ära widerlegte die Behauptung, auf die sich die Beschleuniger am stärksten stützen: dass Rivalen, die einander misstrauen, niemals zustimmen können, sich zurückzuhalten. Washington und Moskau vertrauten einander überhaupt nicht, und dennoch unterzeichneten sie verbindliche, verifizierbare Rüstungskontrollabkommen, weil beide erkennen konnten, dass ein unbegrenztes Wettrüsten sie schlechter stellte als eine Regel, die beide gleichermaßen band. Das Misstrauen war der Grund für die Verträge, nicht das Hindernis. Wenn zwei Regierungen diese Logik bei Zehntausenden von Sprengköpfen finden konnten, die auf die Städte des anderen zielten, ist die selbstgewisse Behauptung, die Vereinigten Staaten und China könnten dasselbe bei KI niemals tun, eine Ausrede fürs Weitermachen, getarnt als harte Realpolitik.

Warum die Stiftung existiert

Ich weigere mich, Teil der Generation zu sein, die die Waffe gebaut hat, die in der Lage ist, sich selbst zu zielen und sich auf dem ganzen Weg dorthin zu sagen, dass sie keine Wahl hat.

Die Menschen, die das Schlimmste des Kalten Krieges verhinderten, taten es, indem sie trotz der Einwände aller, die sie naiv nannten, darauf bestanden, dass manche Technologien zu gefährlich sind, um sie einem Wettlauf zu überlassen. Sie hatten damals recht. Die einzige Aufgabe, die jetzt zählt, ist es, wieder recht zu haben – und rechtzeitig recht zu haben.