Am 22. Oktober 2025 veröffentlichte das Future of Life Institute einen öffentlichen Brief mit dem Titel Erklärung zu Superintelligenz. Im Gegensatz zu den weitläufigen Manifesten, die solche Momente normalerweise begleiten, ist der ganze Buchstabe dieser:

Wir fordern ein Verbot der Entwicklung von Superintelligenz, das erst aufgehoben wird, wenn ein breiter wissenschaftlicher Konsens besteht, dass dies sicher und kontrollierbar geschehen kann, sowie eine starke öffentliche Zustimmung.

Erklärung zu Superintelligenz, Future of Life Institute · Oktober 2025

Es sagt nicht, dass Superintelligenz niemals gebaut werden sollte. Es verurteilt KI als solche nicht. Es stellt eine Bedingung (tatsächlich zwei Bedingungen) und fordert, dass die Entwicklung gestoppt wird, bis sie erfüllt sind. Um zu verstehen, warum diese bescheiden klingende Forderung eine echte Verschiebung in der Debatte darstellt, muss man sowohl verstehen, was sie verlangt, als auch, wer bereit war, seinen Namen dafür herzugeben.

Was die Aussage tatsächlich fordert

Die Formulierung ist präzise. Drei Merkmale unterscheiden sie von früheren offenen Briefen, einschließlich des bekannten Briefs von 2023, der eine sechsmonatige Pause bei den größten Trainingsläufen forderte.

  • Es zielt speziell auf Superintelligenz ab. Keine enge KI, keine Chatbots, nicht die KI-Tools, die bereits in den Alltag eingewoben sind. Das Verbot gilt für Systeme, die die menschlichen Fähigkeiten im Wesentlichen in allen kognitiven Domänen überschreiten würden. Diese Präzision stumpft den üblichen Einwand ab, dass Sicherheitsschützer nützliche Technologien stoppen wollen. Sie wollen eine spezifische und speziell gefährliche Grenze aufhalten.
  • Es handelt sich um ein bedingtes Verbot, kein dauerhaftes Verbot. Das Verbot hebt den Moment auf, an dem zwei Schwellenwerte überschritten werden. Die Standardeinstellung heute ist: Aufbauen Sie Superintelligenz und stellen Sie danach Sicherheit her, wenn wir können. Die Aussage kehrt es um: zuerst Sicherheit herstellen, dann bauen. Die Beweislast bewegt sich auf die Entwickler, wo sie (für eine Technologie dieser Konsequenz) wohl hingehört.
  • Es erfordert die Zustimmung der Öffentlichkeit, nicht nur die Zustimmung von Experten. Die zweite Bedingung ist demokratisch, nicht technisch. Selbst wenn Wissenschaftler eines Tages darin übereinstimmen, dass Superintelligenz kontrolliert werden kann, besteht die Aussage darauf, dass die Öffentlichkeit der Entwicklung zustimmen muss. Das ist eine direkte Herausforderung an die gegenwärtige Lage, in der eine Handvoll privater Labore eine zivilisationsverändernde Entscheidung für alle treffen, die Sorge, die wir in wer Superintelligenz kontrolliert.

Warum die Unterzeichner wichtiger sind als der Wortlaut

Offene Briefe sind billig. Was dieses eine Land ausmachte, war die Koalition. Mehr als 850 Personen haben beim Start unterschrieben, und die Liste ist bemerkenswert, nicht für ihre Länge, sondern für ihre Bereich. Die öffentliche Zählung hat seitdem 70.000 überschritten.

An der Spitze standen die Wissenschaftler, die das Feld aufgebaut haben. Yoshua Bengio und Geoffrey Hinton (beide Turing-Preisträger, beide regelmäßig als Paten der modernen KI bezeichnet) unterzeichneten, ebenso wie Berkeleys Stuart Russell, Autor des Standardlehrbuchs zur KI. Wenn die Menschen, die am meisten für die Existenz einer Technologie verantwortlich sind, die Welt bitten, vor der Entwicklung ihrer mächtigsten Form haltzumachen, ist das Zeugnis, kein Aktivismus.

Dann kamen die Erbauer und die öffentlichen Figuren. Apple co-founder Steve Wozniak und Virgin-Gründer Richard Branson. Historiker Yuval Noah Harari, Schauspieler Stephen Fry, und Musiker will.i.am. Im Ruhestand befindliche nationale Sicherheitsführer, darunter der ehemalige Joint-Chiefs-Vorsitzende Admiral Mike Mullen und ehemaliger National Security Advisor Susan Rice. Und, am aufschlussreichsten, Personen, die sich sonst in fast nichts einig sind: Prinz Harry und Meghan neben Steve Bannon und Glenn Beck.

Das letzte Detail ist das ganze Argument in Miniatur. Als ein britisches Königspaar und ein MAGA-Medienstratege ihre Namen auf dieselbe Aussage setzten, ist das Thema der üblichen ideologischen Sortierung entgangen. Die Sorge um Superintelligenz ist eine der verschwindend wenigen Positionen in den Jahren 2025-2026 mit echter überparteilicher Reichweite, was genau die Art von Koalition ist, die eine verbindliche Politik ermöglicht, nicht links oder rechts, nicht Establishment oder Populist.

Was die Aussage ist und was nicht

Es ist wichtig, sich die Grenzen klar vor Augen zu führen. Eine öffentliche Erklärung verbietet nichts. Sie weist keinem Regulator an, bindet kein Unternehmen und schränkt keine Regierung ein. Wer sie als Gesetz liest, irrt sich.

Was es tut, ist, die Overton-Fenster, der Bereich der Positionen, die als mainstream und sagbar gelten. Vor zwei Jahren wäre der Ruf nach einem Verbot einer Klasse von KI als Randposition abgetan worden. Nach Oktober 2025 ist es eine Position, die öffentlich von Nobelpreisträgern, ikonischen Unternehmern und politischen Figuren quer durch das Spektrum vertreten wird. Diese Verschiebung dessen, was respektabel zu sagen ist, ist die Voraussetzung für alles, was folgt. Politiker übernehmen Positionen, die bereits populär sind; sie führen selten an. Die Funktion der Aussage ist es, das Verbot populär genug zu machen, dass Führungspersonen handeln können.

Genau so begannen frühere Technologie-Steuerungsbewegungen. Die Pugwash-Konferenzen verbrachte zwei Jahrzehnte damit, den intellektuellen und moralischen Konsens aufzubauen, der schließlich die nukleare Rüstungskontrolle trug. Statements und Erklärungen sind der Weg, auf dem die Startbahn gebaut wird, nicht die Ziellinie.

Von einer Erklärung zu einem Vertrag

Die Lücke zwischen der Aussage und der Realität ist die Lücke, die Nakada-Stiftung schließen soll. Eine Erklärung stellt fest, dass ein Verbot wünschenswert und legitim ist. Sie stellt nicht die Maschinerie bereit, es durchzusetzen. Dazu braucht es drei Dinge, die die Erklärung bewusst offenlässt:

Die Erklärung zur Superintelligenz hat etwas Wertvolles bewiesen: Der Wille existiert, und er überschreitet jede Linie, die Menschen sonst trennt. Unsere Plan Es geht darum, diesen Willen in die Berechnungskontrollen, die Überwachungsbehörde und den internationalen Vertrag umzuwandeln, der der Erklärung die Kraft geben würde, die sie braucht. Wenn Sie zustimmen, ist das Nützlichste, was Sie als nächstes tun können, helfen, die Koalition aufzubauen, die es in Politik verwandelt.