"Wenn wir aufhören, Superintelligenz aufzubauen, wird es jemand anderes tun." Es ist der Gesprächspartner in hundert Räumen. Es klingt wie Geographie und Spieltheorie. Oft ist es eine Möglichkeit, weiter zu bauen, während man den Build als unvermeidlich bezeichnet. Versuchen Sie die gleiche Form mit einer Technologie, die wir bereits gehandhabt haben. "Wenn wir aufhören, FCKW-Kühlschränke herzustellen, wird jemand anderes einfach weiter Kühlschränke herstellen."

Ja, sie haben weiter Kühlschränke hergestellt und aufgehört, die Chemikalie zu verwenden, die ein Loch in den Himmel riss.

Zwei verschiedene Substantive

Ein Kühlschrank ist ein Service: kaltes Essen, Impfstoffe, weniger Verderb. Fluorchlorkohlenwasserstoffe waren eine Möglichkeit, diesen Service zu erhalten, und eine katastrophale für die Ozonschicht, sobald die Chemie klar war. Der Montreal Protocol Er verbot die Kälte nicht. Sie plante den Ausstieg aus den Substanzen, die den Schaden anrichten, finanzierte Alternativen für ärmere Länder und unterstützte das Abkommen mit dem Handelsdruck. Die Industrie hatte gesagt, der Ausstieg sei unmöglich; die Kühlung ging weiter, und FCKW nicht.

Superintelligenz-Rhetorik bricht zwei Substantive in eins. "AI" wird zu einem einzigen Blob, der Krebsmodelle, Routenplaner und einen hypothetischen Agenten enthält, der schlauer ist als die menschliche Spezies. Wenn Sie den letzten Punkt ablehnen, sagen Beschleunigungsforscher, haben Sie auch die ersten abgelehnt, und jemand, der weniger gewissenhaft ist, wird alles versenden. Der Schritt besteht darin, so zu tun, als sei das Gift identisch mit dem Produkt, so dass das Entfernen des Giftes wie ein Krieg gegen das Produkt klingt.

Wir konnten die Ozonschicht nicht retten, indem wir mehr FCKW als unsere Konkurrenten verwendeten. Wir behielten den Kühlschrank und zogen die Chemikalie aus.

Wofür „jemand anderes wird“ steht

Ein rivalisierendes Labor oder ein rivalisierender Staat könnte versuchen, durch jede Linie zu trainieren, die Sie zeichnen. Diese Möglichkeit ist real genug, um zu planen. Es ist auch die Möglichkeit, dass Rüstungskontrolle erfunden wurde. Die Antwort auf "jemand anderes könnte eine Atombombe bauen" war nicht "dann müssen wir eine noch größere Atombombe bauen". Es waren Verifizierung, Chokepoints auf spaltbarem Material und Konsequenzen für den Ausbruch.

Compute ist unübersichtlicher als Uran, und niemand Ernstzunehmender tut so, als wäre es anders. Es ist dennoch physisch, an der Frontier teuer und läuft über eine kurze Liste von Chip-Herstellern, Fabs und Cloud-Regionen. Das reicht an Struktur, um Inspektionen darauf aufzubauen, weshalb Rechen-Governance taucht in jedem ernsthaften Vertragsentwurf auf. „Jemand anderes wird es tun“ überspringt diese Arbeit und geht direkt zur Erlaubnis über.

Wenn Zurückhaltung als einseitige Kapitulation eingerahmt wird, dann ist die einzige Haltung des Erwachsenen volle Geschwindigkeit. Investoren hören Schicksal. Sicherheitspersonal hört, dass Verlangsamung naiv ist. Laborleiter müssen keine Debatte über Mechanismen gewinnen. Sie müssen nur die dritte Option, gemeinsame Zurückhaltung, kindisch machen.

Der Kühlschrank war nie der Feind

Wir wollen schmale KI, die diagnostiziert, Medikamente entwirft und Fehler in Brücken findet. Sagt das klar, damit das Schmierentheater nicht haftet. Die Linie der Stiftung ist eine Weigerung Systeme, die die menschliche Kontrolle übertreffen und ersetzen während das Kontrollproblem ungelöst ist.

Das kommt eher „andere Kältemittel verwenden“ als „Kühllagerung verbieten“ gleich. Die Menschen, die den Unterschied verwischen, nutzen die Popularität nützlicher KI als Deckmantel für eine Fähigkeit, die kein Werkzeug bleibt.

Was der Ozon-Kampf eigentlich lehrt

Montreal arbeitete, weil die Wissenschaft laut wurde, Ersatzstoffe existierten und Holdouts mit Handelskosten konfrontiert waren. Superintelligenz ist schwieriger als Ersatz für "strategische Dominanz" und in gewisser Hinsicht leichter zu ignorieren: Keine Großmacht hat ein kohärentes Interesse in einem System, das nicht unter irgendjemandes Befehl bleibt. Gemeinsame Verwundbarkeit ist der Rohstoff eines Deals. Rivalisierende Angst kann einen Vertrag so einfach finanzieren wie einen Sprint, Sobald die hohlen Oberflächen sichtbar sind.

Fragen Sie, ob sie nützliche KI oder Superintelligenz bedeuten: Wir behalten die Werkzeuge und stoppen das System, das niemand kontrollieren kann. Für die Superintelligenz ist das Defektrisiko ein Grund, die Durchsetzung aufzubauen, kein Grund, einen Fehler vorherzusehen. Die Kühlschränke liefen weiter. Der Himmel heilte, weil die Menschen den Unterschied erkennen konnten.