Superintelligenz stoppen bedeutet nicht, jeden Chip zu zerschlagen oder maschinelles Lernen zu beenden. Es bedeutet ein rechtliches und praktisches Verbot der Entwicklung künstlicher Superintelligenz. Superintelligenz kann von Menschen nicht kontrolliert werden. Das ist ein dauerhaftes Verbot, keine zeitlich begrenzte Pause, die in dasselbe Wettrüsten mündet.

Was muss aufhören vs. was muss weitergehen

Schmalband-KI, die Proteine faltet, Scans liest, Logistik optimiert und in begrenzten Domänen bleibt, sollte fortgesetzt werden. Das Ziel ist allgemeine, rekursiv verbessernde Superintelligenz und die darauf abzielenden Programme, gefiltert durch Rechenschwellen, Fähigkeitstests und Forschungsregeln. Kritiker, die sagen „sie wollen KI verbieten“, verkaufen eine Verleumdung, die das Wettrennen schützt.

Warum Laborversprechen nicht ausreichen

Verantwortungsvolle Skalierungsrichtlinien und Multi-Lab-Versprechen können Absicht offenbaren. Sie scheitern als primäres Kontrollsystem. Die gleiche Firma schreibt die Politik, führt die Tests durch, beurteilt die Ergebnisse und profitiert vom Versand. Im Wettbewerb beugen sich interne Regeln, so dass externes Recht den Biss liefern muss.

Die Durchsetzungsleiter

Stellen Sie sich eine Leiter auf einer Klippe vor.

Öffentlichkeit wird an der Basis: Menschen, die die Forderung benennen und Führungskräfte bestrafen können, die nur Innovationstheater bieten.

Inländisches Recht und Behörden: Lizenzierung für große Trainingsläufe, straf- und zivilrechtliche Haftung für die Kenntnis der Superintelligenz-Entwicklung, Bewertungsgremien mit echtem Zugang, Schutz von Hinweisgebern.

Chips und Clouds: Exportkontrollen, Cluster Know-your-Customer, Power- und Datacenter-Sichtbarkeit. Hardware ist physisch. Das ist ein Merkmal der Governance.

Koalitionsvertrag: eine Kerngruppe von Staaten, die die meisten Grenzkapazitäten abdecken, mit numerischen Anhängen, nicht nur Prinzipien. Misstrauen ist normal; Überprüfung existiert, so dass sich die parteien nicht auf freundschaft verlassen müssen.

Verifikationsinstitution: Inspektoren, FLOP-Zeitpläne, Vorfallmeldungen, Befugnis, Konsequenzen auszulösen. Denken Sie an IAEA-ähnliche Kapazität für Rechenzentren und Training, nicht an einen Diskussionszirkel.

Bestehende Verbotsbedingung: nur dann wieder öffnen, wenn unabhängige Wissenschaft und Öffentlichkeit gemeinsam eine hohe Hürde unter Institutionen nehmen, die nicht von den Labs vereinnahmt sind.

Jede Sprosse stützt die nächste. Gipfeltreffen ohne Rechenregeln oder Rechenregeln ohne öffentlichen Willen lassen den Aufstieg unvollendet.

Innenpolitik ist die Hälfte des Problems

In den Vereinigten Staaten bindet der schöne Genfer Text nicht ohne einen Weg durch den Senat oder durch Statuten und Kongress-Exekutivvereinbarungen, die passieren können. Entwerfen Sie das Instrument rückwärts von Stimmen, die Sie gewinnen können. Andere Länder haben ihre eigenen Ratifizierungsfallen. Überspringen Sie das Innendesign und Sie erhalten Pressemitteilungen.

China, Rivalen und die Wettlauf-Ausrede

Die vorherrschende Entschuldigung für unbegrenzte Skalierung ist: Wenn wir langsamer werden, werden sie es nicht tun. Shared Vulnerability schneidet beide Wege. Eine unkontrollierbare Superintelligenz ist eine Möglichkeit, das Land zu verlieren, während man die Flagge grüßt, kein nationales Gut. Verifizierung, Hardware-Denial und gegenseitige Exposition von Breakout-Programmen existieren für Rivalen, die einander nicht vertrauen.

Offene Gewichte

High-End-offene allgemeine Gewichte schaffen einen Proliferationspfad, den Exportkontrollen nur teilweise ansprechen. Sobald Gewichte öffentlich sind, gibt es keinen zentralen Rückruf. Behandeln Sie High-End-allgemeine Releases als Proliferationsentscheidungen, nicht als gewöhnliche Produkteinführungen.

Was Sie tun können

Passen Sie die Handlung an Ihre Reichweite an.

Wähler: kontaktieren Sie Vertreter mit einer verbindlichen Verbotsfrage, nicht einem vagen „Seien Sie vorsichtig.“ Mitarbeiter: Lizenz- und Evaluierungsgesetze mit numerischen Triggern entwerfen. Spender: setzt sich für Interessenvertretung ein, die Stimmen und Vertragstext bewegt. Wissenschaftler: permanente Verbote unterstützen und bei der Gestaltung von Verifikation helfen. Lab-Mitarbeiter: use lawful reporting channels when internal safety is overridden. Role-specific force beats generic anxiety.

Das meiste Geld und Prestige fließt noch immer darin, das Wettrennen sicherer zu machen, nicht darin, das Wettrennen um Superintelligenz zu beenden. Spenden, die das Stoppen vergrößern, sind noch immer rar.

Wie Erfolg aussieht

In zwei Jahren: Statuten mit Biss in mehreren Jurisdiktionen, besseres Endnutzungsmonitoring bei Chips, ernsthafter Verhandlungstext mit Zahlen, dauerhafte öffentliche Unterstützung für ein bindendes Verbot. In fünf bis zehn Jahren: lizenzierter Compute, der den Großteil der Frontier-Kapazität abdeckt, funktionierende Inspektion, Koalitionsabdeckung des Trainings und eine Kultur, in der Ausbrüche teuer und sichtbar sind. Gipfelkommuniqués allein zählen nicht.

Versagensmodi

Achten Sie auf Neudefinition ("fortgeschrittene Unterstützung" anstelle von Superintelligenz), Erfassung von Bewertern, symbolische Verträge ohne Überprüfung und Warten auf "gelöste Ausrichtung" als Baugenehmigung. Defektion ohne Kosten. Nennen Sie sie, damit Sie Geländer auf den Aufstieg setzen können.

Vertragsgestaltung ohne heiligen Text

Es gibt keinen einzigen sakrosankten Entwurf. Es gibt Familien von Designs. Eine Kernkoalition, die den Großteil der Frontier-Kapazität abdeckt, kann vor einer universellen Mitgliedschaft voranschreiten. Framework-then-Annex-Sequenzierung (erst Prinzipien, dann aktualisierbare numerische Zeitpläne) lehnt sich an erfolgreiche Umwelt- und Rüstungsregime an. Handelsmaßnahmen gegen Nichtparteien verändern die Opt-out-Rechnung. Ein multilateraler Fonds oder ein Technologiezugangsabkommen kann Staaten einbinden, die fürchten, von enger KI ausgeschlossen zu werden. Der MIRI-artige Entwurf ist ein vollständig spezifizierter Vorschlag; NPT, Montreal und das Chemiewaffenrecht sind das Regal der Präzedenzfälle. Wählt Strukturen, die man verifizieren kann, nicht Poesie, die man nur loben kann.

Forschung nahe der Linie

Das schwierigste Entwurfsproblem ist die Arbeit, die neben dem Verbot steht: agentische Systeme, automatisierte KI-Forschungsassistenten, groß angelegtes Self-Play. Verbieten Sie den klaren Superintelligenz-Pfad. Lizenzieren und prüfen Sie die Grauzone. Tun Sie nicht so, als sei jedes Paper eine Bombe, und tun Sie nicht so, als sei automatisierte KI-Forschung gewöhnliche Wissenschaft, wenn sie den Weg zu Systemen verkürzt, die niemand mehr überstimmen kann.

Gerechtigkeit und wer zahlt

Compute-Regeln werden Firmen und Länder ungleich treffen, weil die industrielle Basis ungleich ist. Ein faires Regime koppelt Beschränkungen an der Spitze der Fähigkeitsleiter mit weiterem Zugang zu nützlichen engen Werkzeugen und missbraucht „Sicherheit“ nicht als Deckmantel für permanente technologische Kastensysteme. Der Punkt ist gemeinsames Überleben, nicht ein Monopol auf Fortschritt.

Auf zwei harte Linien antworten

"Wir werden die Wirtschaft verlieren." Einiges Kapital wird umverteilt. Einige Equity-Storys werden schrumpfen. Diese Kosten sind in Quartalsberichten sichtbar. Aussterben und dauerhafte Entmachtung tauchen nicht als Posten auf. Sichtbare Kosten gewinnen das Argument nicht automatisch, wenn die Alternative zivilisatorisch ist.

"Jemand wird immer defektieren." Defection ist ein Design Input. Verifizierung, Hardware-Denial, Sanktionen und gegenseitige Exposition von Breakout-Programmen existieren, um die Auszahlung zu ändern. Perfekte compliance ist nicht der standard; die erhöhung der kosten für betrug ist.

Die Leiter wieder

Die Sprossen sind öffentlicher Wille, Gesetz, Chips, ein Vertrag, Inspektoren und dauerhaftes Verbot. Klettern bedeutet, Sprossen in Ordnung zu installieren und sich zu weigern, so zu tun, als wäre eine lackierte Wand eine Leiter. Die Dokumente, industriellen Chokepoints und rechtlichen Präzedenzfälle existieren bereits. Kraft gehört auf die nächste Sprosse, die man tatsächlich erreichen kann. Die Gründungslinie ist einfacher: baut keine Superintelligenz. Superintelligenz kann nicht kontrolliert werden.