Der häufigste Einwand gegen internationale Superintelligenz-Governance lautet, dass sie nicht machbar sei. Ein Jahrhundert von Verträgen sagt das Gegenteil. Koordination bei gemeinsamen existenziellen Risiken hat es schon gegeben; sie ist eine belegte Gewohnheit ernsthafter Staaten, keine Utopie.
Atomwaffen. Chemiewaffen. Die Ozonschicht. Globale Koordination bei existenziellen Bedrohungen ist eine dokumentierte menschliche Leistung. Die Frage für Superintelligenz ist, ob wir es rechtzeitig tun werden, mit dem politischen Willen der früheren Fälle.
Jedes Mal, wenn die Menschheit einer koordinierten existenziellen Bedrohung gegenüberstand, wurden dieselben Einwände erhoben: Das Problem ist zu komplex, die Gegner zu zahlreich, die Verifikation zu schwierig, die Defektion zu wahrscheinlich. Jedes Mal bauten diejenigen, die diese Einwände überwanden, Rahmenwerke, die, so unvollkommen sie auch sind, katastrophale Ergebnisse verhinderten.
Wenn die Bedrohung klar ist, die Wissenschaft glaubwürdig ist und die Interessenvertretung organisiert ist, war eine internationale Koordination möglich, selbst wenn sie langsam und umstritten war.
Die Superintelligenz-Bedrohung ist dokumentiert, die wissenschaftlichen Warnungen sind öffentlich und die Interessenvertretung wächst. Was noch fehlt, ist politischer Druck, der stark genug ist, um die Koordinierung zu erzwingen.
Die vier folgenden Fälle sind die maßgeblichen Beispiele dafür, was menschliche Zivilisation erreichen kann, wenn sie Bedrohungen gegenübersteht, die kein einzelnes Land allein lösen kann. Jeder begann mit denselben Einwänden, die Superintelligenz-Kritiker der Governance heute vorbringen.
Atomwaffen kamen 1945 im Krieg zum Einsatz. Innerhalb weniger Jahre hatten mehrere Nationen sie entwickelt oder waren dabei, sie zu entwickeln. Die Aussicht auf Dutzende Länder mit Atomwaffenarsenalen stellte ein zivilisationsgefährdendes Risiko dar. Kritiker sagten, ein Nichtverbreitungsvertrag sei unmöglich: zu viele Akteure, zu viele nationale Interessen, keine Möglichkeit, die Einhaltung zu überprüfen.
Der Nuclear Non-Proliferation Treaty wurde 1968 zur Unterzeichnung freigegeben und trat 1970 in Kraft. Er schuf einen Rahmen, in dem die meisten Nationen zustimmten, keine Kernwaffen zu entwickeln, im Tausch gegen Zugang zu ziviler Nukleartechnologie. Ein Verifikationsregime durch die International Atomic Energy Agency überwachte die Einhaltung.
Heute besitzen neun Länder Atomwaffen, obwohl Hunderte sie hätten bauen können. Seit 1945 wurde keine Atomwaffe mehr im Krieg eingesetzt. Das NPT ist unvollkommen, es hat nicht jede Proliferation verhindert, aber es hat das katastrophale Szenario verhindert, das Kritiker für unvermeidlich hielten. Achtzig Jahre nuklearen Friedens geschahen nicht zufällig.
Die International Atomic Energy Agency wurde 1957 mit dem Mandat gegründet, friedliche Kernenergie zu fördern und gleichzeitig ihre Umleitung zu Waffen zu verhindern. Ihr Inspektions- und Safeguards-Regime ermöglicht internationalen Inspektoren, zu verifizieren, dass nukleares Material an deklarierten Anlagen nicht über zivile Zwecke hinaus angereichert wird.
Dieses Überwachungsregime funktioniert, weil nukleares Material, wie KI-Rechenleistung, durch identifizierbare Engpässe fließt. Uran muss in bestimmten Anlagen angereichert werden. Zentrifugen sind nachverfolgbar. Die IAEA entwickelte die technischen Mechanismen zur Überwachung einer Technologie, deren Dual-Use-Potenzial existenzielles Risiko barg.
Die Parallele zur KI ist direkt. Die Hardware, die zum Training frontier KI-Modelle benötigt wird, insbesondere die von NVIDIA produzierten GPU-Cluster und die von TSMC mit ASML-Lithografieanlagen gefertigten fortschrittlichen Halbleiter, ist so konzentriert, dass eine Überwachung technisch machbar ist. Eine kleine Zahl von Unternehmen kontrolliert die Engpässe. Exportkontrollen versuchen bereits, diese Chips zu verfolgen.
Was die IAEA zeigt, ist, dass internationale Überwachung von Dual-Use-Technologie bereits eine funktionierende Praxis ist. Die Institution arbeitet seit fast siebzig Jahren, führt Tausende von Inspektionen in Dutzenden von Ländern durch. Die Infrastruktur, dasselbe mit KI-Compute zu tun, existiert. Sie erfordert politischen Willen, keine technische Innovation.
In der Mitte der 1970er Jahre stellten Wissenschaftler fest, dass Chlorfluorkohlenwasserstoffe, FCKW, die in Kältemitteln, Aerosolen und industriellen Prozessen verwendet wurden, die Ozonschicht zerstörten, die den Planeten vor ultravioletter Strahlung schützt. Ohne die Ozonschicht steht das Leben auf der Erde vor katastrophalen Folgen. Die Industrie erklärte die Abschaffung von FCKW für wirtschaftlich unmöglich.
Das Montrealer Protokoll wurde 1987 von 46 Staaten unterzeichnet und trat 1989 in Kraft. Die Produktion und der Verbrauch von ozonschädigenden Stoffen wurden nach einem verbindlichen internationalen Zeitplan schrittweise eingestellt. Entwicklungsländer erhielten verlängerte Zeitpläne und finanzielle Unterstützung. Jede Nation auf der Erde hat den Vertrag ratifiziert, den einzigen internationalen Vertrag mit universeller Ratifizierung.
Die Ozonschicht erholt sich. Wissenschaftliche Bewertungen prognostizieren, dass sie bis zur Mitte dieses Jahrhunderts das Niveau von 1980 erreichen wird. Das Montreal-Protokoll gilt weithin als der erfolgreichste Umweltvertrag der Geschichte. Die chemische Industrie, die sich zunächst dagegen ausgesprochen hatte, entwickelte alternative Verbindungen und arbeitete weiter profitabel. Das „Unmögliche“ stellte sich als nicht unmöglich heraus.
Chemische Waffen wurden im Ersten Weltkrieg, in kolonialen Konflikten und im Iran-Irak-Krieg der 1980er Jahre eingesetzt. Die Chemiewaffenkonvention, 1993 zur Unterzeichnung aufgelegt und 1997 in Kraft getreten, verbot die Entwicklung, Herstellung, Lagerung und den Einsatz chemischer Waffen und verlangte die verifizierte Vernichtung bestehender Bestände.
Mehr als 190 Nationen haben die Konvention ratifiziert. Staaten mit bedeutenden Chemiewaffenbeständen, darunter die Vereinigten Staaten und Russland, vernichteten sie unter internationaler Aufsicht durch die Organisation für das Verbot Chemischer Waffen, die 2013 den Friedensnobelpreis erhielt.
Die Chemiewaffenkonvention zeigt, dass internationale Abkommen die verifizierte Zerstörung von Waffen erreichen können, in deren Entwicklung Nationen Jahrzehnte und Milliarden investiert haben. Der Einwand, dass Länder strategische Vorteile nicht aufgeben werden, wenn dies durch Vertrag verlangt wird, ist wiederholt widerlegt worden, in den adversariellsten Beziehungen der modernen Geschichte.
Verstöße gegen die Konvention kommen vor und werden mit internationalen Konsequenzen beantwortet. Der Rahmen ist kein perfektes Instrument. Er hat jedoch die Verwendung chemischer Waffen zu einer normverletzenden Handlung gemacht, die globale Verurteilung und Reaktion auslöst, wo sie vor der Konvention eine umstrittene militärische Option war. Dieser Wandel der internationalen Norm ist selbst eine Form von Governance-Erfolg.
Diese vier Fälle teilen eine Struktur. In jedem wurde die Bedrohung zunächst als zu spekulativ oder technisch zu komplex für internationale Governance abgetan. In jedem argumentierte die betreffende Industrie, Regulierung sei wirtschaftlich unmöglich. In jedem wurde Verifikation als Fantasie beschrieben. In jedem wurde schließlich eine Vereinbarung erreicht, Verifikationsmechanismen aufgebaut und die Bedrohung spürbar verringert.
Die Superintelligenz-Governance ist heute mit allen diesen Einwänden konfrontiert, in der gleichen Form, von den gleichen Arten von Akteuren. Die Technologieunternehmen sagen, dass die Regulierung die Innovation ersticken wird. Das nationale Sicherheits-Establishment sagt, dass Gegner überlaufen werden. Kommentatoren sagen, das Problem sei zu technisch komplex für den Gesetzgeber, um es zu verstehen. Diese Argumente sind alt und längst falsch; wer sich auf sie stützt, sollte gefragt werden, welche Präzedenzfälle sie ignorieren.
Das Merkmal, das die Superintelligenz Governance von diesen Vorbildern unterscheidet, ist die Dringlichkeit. Die NPT wurde über Jahre verhandelt, während die nuklearen Arsenale wuchsen, aber unter menschlicher Kontrolle blieben. Das Montrealer Protokoll wurde über Jahrzehnte umgesetzt, während die Ozonschicht weiter ausdünnte, aber noch regenerierbar blieb. Die KI-Entwicklung schreitet schneller voran, und die Systeme, die gebaut werden, könnten, sobald sie ausreichend fortgeschritten sind, Governance auf Weisen widerstehen, die Ozonmoleküle und Atomsprengköpfe nicht können.
Die Präzedenzfälle sind ein Grund, sich schneller zu bewegen, nicht zu warten. Koordination, Überprüfung und Vereinbarungen trotz des Widerstands der Industrie sind alle schon einmal passiert. Was wir immer noch brauchen, ist der politische Wille, die Zeitlinie zu komprimieren, die von Menschen aufgebaut wird, die den Einsatz verstehen und sich weigern zu warten.
Schließen Sie sich denen an, die die politische Koalition aufbauen, die Superintelligenz-Governance möglich machen wird.