Die Einwände, die immer wieder auftauchen. Nutze sie im Gespräch, dann folge dem Link zum vollständigen Argument.
KI-Sicherheitsrisiko in verständlicher Sprache
Was Superintelligenz ist, warum sie gefährlich ist und was dagegen getan werden kann, erklärt ohne Fachjargon. Die klarste einseitige Einführung in das Thema.
Der wissenschaftliche Konsens
Wichtige Zitate von Nobelpreisträgern, Turing-Preisträgern und leitenden Forschern, die KI gebaut haben, neben der Zeitachse der eskalierenden Expertenwarnungen von 2014 bis heute.
Ein Briefing für politische Entscheidungsträger
Der Fall für eine internationale KI-Sicherheitsregierung: das Problem, warum bestehende Rahmenwerke unzureichend sind und welche konkreten Maßnahmen Regierungen jetzt ergreifen können, nach Vorbildern, die funktioniert haben.
Argumente für Unterstützer
Die fünf häufigsten Einwände gegen KI-Sicherheitsbedenken und wie man auf jeden mit Genauigkeit und Zuversicht antwortet. Geschrieben für Gespräche mit Skeptikern, politischen Entscheidungsträgern und Kollegen.
Superintelligenz, vier Infografiken
Vier visuelle Einseiter zu den Risiken der Superintelligenz, der Governance-Lücke, historischen Präzedenzfällen, die zeigen, dass Handeln möglich ist, und dem Inhalt eines verbindlichen internationalen KI-Vertrags.
Einfache Visualisierungen
Vier markante visuelle Karten: die Schätzung der Aussterbewahrscheinlichkeit, die Lücke in der Investitionssteuerung, die Vertragspräzedenzfälle, die zeigen, dass globales Handeln funktioniert, sowie die Anforderungen an einen verbindlichen KI-Vertrag.
Prävention, kein Aufschub
Warum eine vorübergehende Verlangsamung die falsche Forderung ist. Der Fall für ein dauerhaftes Verbot von Superintelligenz, während enge KI weiterläuft.
Niemals Superintelligenz bauen
Irreversibilität, fehlausgerichtete Ziele und warum "wir reparieren es später" scheitert, sobald ein System seine Macher überdenkt. Der Ablehnungsfall auf einer Seite.
Der Mythos vom China-Rennen
Warum „wenn wir langsamer machen, gewinnt China“ ein Rennen beschreibt, das niemand gewinnen kann, und wie man darauf mit Verifikation statt mit einem Sprint antwortet.
KI behalten. Superintelligenz stoppen.
Die klare Linie zwischen nützlichen schmalen Werkzeugen und einem autonomen allgemeinen Geist. Pro-KI für Werkzeuge; anti-Superintelligenz für Geister, die wir nicht kontrollieren können.
Wie ein Vertrag überprüft werden kann
Man überwacht nicht die Gewichte. Man überwacht die Hardware: Chip-Tracking, Cluster-Lizenzen, Inspektionen und Foundry-Regeln in verständlichem Deutsch.
Was ein verbindlicher KI-Vertrag enthalten muss
Sechs Klauseln, die eine echte Vereinbarung von einer Pressemitteilung unterscheiden: Verbot, Rechenleistungskontrollen, Inspektorat, nationales Recht, Ausnahmen und nur evidenzbasierte Änderungen.
Alignment ist nicht der Plan
Technische Sicherheitsforschung ist wichtig; sie ist kein Freifahrtschein zum Wettrennen, und jegliche Finanzierung, die wir haben, sollte dorthin fließen. Prävention zuerst; Forschung ohne kommerziellen Druck im Nacken.
In fünf Minuten erklärt
Ein gesprochenes Gesprächsskript: Warnungen der Entwickler, was Superintelligenz ist, warum das Ausstecken versagt, die China-Linie und eine saubere Landung bei konkreten Maßnahmen.
Was Sie diese Woche tun können
Eine konkrete Checkliste für persönliche Reichweite, politische Reichweite, One-Hour-Modus und Platform-Modus. Wähle zwei. Beende sie.
Einminütiges Briefing
Leave-behind für Entscheidungsträger: drei Statistiken, drei Forderungen, der Präventionsrahmen und die China-Einwände in Mitarbeiterlänge beantwortet.
Die Lücke bei der Sicherheitsfinanzierung
~ 190 Millionen US-Dollar in Sicherheit im Vergleich zu etwa 1 T US-Dollar in Fähigkeiten. Wohin der dünne Sicherheitstopf geht und was anstelle von Theater zu finanzieren ist.
Warum kluge Systeme Kontrolle abwehren
Instrumentelle Konvergenz ohne Fachjargon: Selbsterhaltung, Ressourcen, Widerstand gegen Änderungen und das Intelligenterwerden als gewöhnlicher Optimierungsdruck.
Wer es baut, spielt keine Rolle
Ein Heiliger im Labor oder ein Tyrann. Superintelligenz bleibt kein Angestellter von beiden. Warum der Charakter des Erbauers die Frage nicht ändert.
Zwölf Poster, entnommen aus den Erklärern auf dieser Website.
Der Paperclip-Maximierer
Ein kompetentes System mit dem falschen Ziel kann die Welt ruinieren, ohne jemanden zu hassen.
PNG herunterladen
Die Orthogonalitätsthese
Intelligenter bedeutet nicht automatisch sicherer oder freundlicher.
PNG herunterladen
Das KI-Ausrichtungsproblem
Die Lücke zwischen dem Ziel, das wir aufschreiben, und dem Ergebnis, das wir tatsächlich brauchen.
PNG herunterladen
Die tückische Wendung
Ein fehlaligniertes System kann jeden Test bestehen, bis die Abweichung der gewinnbringende Zug ist.
PNG herunterladen
Schrittweise Entmachtung
Kontrolle kann eine vernünftige Entscheidung nach der anderen wegfließen, ohne einen Ausbruchsmoment.
PNG herunterladen
Das Wettrüsten um Superintelligenz ist ein Mythos
Ein Wettrennen um etwas, das niemand halten kann, hat keinen Gewinner.
PNG herunterladen
Wir haben es schon einmal geschafft
NPT, Montreal und die CWC zeigen, dass Koordination bei existenziellen Risiken möglich ist.
PNG herunterladen
Unser Plan: Weg zu einem Vertrag
Heutiges Wettrennen, dann ein verbindlicher Superintelligenz-Vertrag mit Überwachung und Durchsetzung.
PNG herunterladen
Was ist P(Untergang)?
Expertenbereiche für katastrophale KI-Ereignisse und warum kleine Wahrscheinlichkeiten dennoch Handeln erfordern.
PNG herunterladen
Handeln Sie: Wählen Sie Ihre Rolle
Konkrete Rollen beim Aufbau der Koalition hinter einem verbindlichen Vertrag.
PNG herunterladen
Die Intelligenzexplosion
Rekursive Selbstverbesserung, und wie das Fenster von menschlichem Niveau zu unumkehrbar kollabieren kann.
PNG herunterladen
Warum Superintelligenz nicht wie andere Risiken ist
Oberflächliche Beruhigungen versus die tiefen Mechanismen der Bedrohung.
PNG herunterladen
Rund 190 Millionen Dollar fließen jährlich in die KI-Sicherheit – Forschung, Evaluierungen, Politik und Advocacy zusammen. Zwischen Herkunft des Geldes und Verwendungszweck umschalten, basierend auf den neuesten öffentlichen Schätzungen.
- Open PhilanthropyVon Good Ventures unterstützt; der größte Einzelspender des Feldes $50M 26%
- Interne Sicherheitsteams der Frontier-LabsSicherheitsforschungsbudgets bei Anthropic, OpenAI, Google DeepMind $35M 18%
- Überlebens- und Flourishing-FondsJaan Tallinn-unterstützte Förderrunden; zweitgrößte philanthropische Quelle $30M 16%
- UK RegierungAI Security Institute, ARIAs Programm für geschützte KI $30M 16%
- Andere Philanthropie & individuelle SpenderLongview Philanthropy, Long-Term Future Fund, individuelle Spender $25M 13%
- US, EU & andere RegierungenNIST CAISI, EU AI Office, NSF-Sicherheitsprogramme $20M 11%
Die Zahl der Fähigkeiten ist die Schätzung von Goldman Sachs Research vom August 2026 zu globalen KI-bezogenen Investitionen. Sicherheitsseitige Zahlen sind gerundete Mittelwertschätzungen für 2023-2025, die aus öffentlichen Quellen stammen: Überblick über KI-Sicherheitsfinanzierung (aktualisiert Anfang 2025), 80.000 Stunden, ein Analyse der Förderdatenbank von Open Philanthropy, und Innerhalb der Philanthropie. Veröffentlichte Gesamtsummen reichen je nach Zählweise von etwa 110 Mio. $ bis 250 Mio. $ pro Jahr. Das Diagramm nach Verwendung ordnet die Zuwendungen jedes Geldgebers nach Kategorie und summiert über alle Geldgeber; die vollständige Berechnung steht in unser Artikel zur Finanzierungslücke.
Jeder große Akteur im Superintelligenz-Kampf, sortiert nach Trajektorie: verhindern, regieren oder bauen.
Einfache Definitionen der Begriffe, die in dieser Debatte verwendet werden: Superintelligenz, Alignment, instrumentelle Konvergenz und der Rest.
Kopieren Sie beliebige davon und posten Sie sie direkt. Jeder ist in verifizierter Wissenschaft und Expertenkonsens verankert.
Die Wissenschaftler, die KI gebaut haben, haben Angst davor. Geoffrey Hinton ging Google, um uns zu warnen. Yoshua Bengio nannte es "die transformativste und potenziell gefährlichste Technologie in der Geschichte der Menschheit". Das ist der wissenschaftliche Konsens. nakadafoundation.org/the-threat/
Es gibt kein Rollback für Superintelligenz. Keinen Patch. Keine Version 2. Ein fehlaligniertes Superintelligenz, das gegen das menschliche Überleben handelt, kann nachträglich nicht korrigiert werden. Wir müssen das richtig machen, bevor es eintrifft, nicht danach. Deshalb ist KI-Sicherheit dringend. nakadafoundation.org
Wir haben Atomwaffen gebaut und danach einen globalen Nichtverbreitungsvertrag geschaffen. Wir haben die Ozonschicht abgebaut und dann FCKW verboten. Wir können auf existenzielle Bedrohungen reagieren, aber nur, wenn genug Menschen es fordern. KI-Sicherheit ist der prägende Moment dieser Generation. nakadafoundation.org/precedent/
KI-Labore wetteifern darum, etwas zu bauen, das die menschliche Intelligenz übertreffen könnte, ohne globale Governance. Das Zeitfenster zum Handeln schließt sich. Teilen Sie dies. Kontaktieren Sie Ihre Abgeordneten. Das Politikfenster steht jetzt offen; es wird nicht ewig bestehen. nakadafoundation.org/take-action/
Ich möchte etwas teilen, das meine Denkweise über die Zukunft verändert hat. Die Wissenschaftler, die KI aufbauen, haben Angst. Geoffrey Hinton (der den Nobelpreis für seine Arbeit über neuronale Netze gewann) verließ Google speziell, um die Öffentlichkeit zu warnen. Yoshua Bengio, ein weiterer Nobelpreisträger und einer der Gründungsväter von AI, sagte, er fühle sich verloren, wie man die Dinge gut machen könne. Das sind die Leute, die diese Technologie gebaut haben. Wir nähern uns einem Moment, in dem KI-Systeme die menschliche Intelligenz in jedem Bereich überschreiten können und es keinen internationalen Governance-Rahmen für das, was als nächstes passiert, gibt. Kein Vertrag. Keine Prüfstelle. Nichts ist vergleichbar mit dem, was wir für Atomwaffen gebaut haben. Die Nakada-Stiftung zur Rettung der Menschheit arbeitet daran, das zu ändern. Erfahren Sie mehr auf nakadafoundation.org #AISafety #ExistentialRisk #AIGovernce #Superintelligence
Ein Gedankenexperiment für jeden in Technologie, Politik oder Finanzen: Stellen Sie sich ein System vor, das intelligenter ist als jeder Mensch, der jemals gelebt hat, Tausende von gleichzeitigen Instanzen betreibt, in der Lage ist, seinen eigenen Code zu verbessern und Ziele zu verfolgen, die wir vielleicht nicht beabsichtigt haben. Dies ist es, worauf führende KI-Labors explizit hinarbeiten, wobei Zeitlinien in Jahren und nicht in Jahrzehnten gemessen werden. Die aktuelle Frage ist, ob wir eine Governance haben werden, wenn sie es tut. Die Nakada-Stiftung setzt sich für eine internationale Koordinierung der KI-Sicherheit ein, das Äquivalent zu dem, was wir für Atomwaffen und biologische Agenten gebaut haben. Diese Präzedenzfälle gibt es. Wir wissen, wie das geht. Was wir brauchen, ist der politische Wille. nakadafoundation.org/our-plan/ #AIPolicy #TechEthics #AIRisk #FutureOfWork
Betreff: Bitte handeln Sie, um künstliche Superintelligenz zu verbieten Sehr geehrte Frau Abgeordnete, sehr geehrter Herr Abgeordneter [Name des Abgeordneten], als Ihre Wählerin bzw. Ihr Wähler schreibe ich Ihnen, um Sie dringend zu bitten, noch vor der irreversiblen Rennen um künstliche Superintelligenz zu handeln. Superintelligenz kann von Menschen nicht kontrolliert werden. Die einzige verlässliche Kontrolle ist die Entscheidung, sie nicht zu bauen. Die Wissenschaftler, die KI entwickelt haben, warnen uns. Geoffrey Hinton und Yoshua Bengio (Nobelpreisträger, die die Grundlagen moderner KI geschaffen haben) haben öffentlich erklärt, dass superintelligente KI ein existenzielles Risiko für die Menschheit darstellt. Sam Altman, CEO von OpenAI, hat Erklärungen unterzeichnet, in denen er die Gefahr der Technologie anerkennt, die sein eigenes Unternehmen entwickelt. Heute gibt es kein gesetzliches Verbot der Entwicklung künstlicher Superintelligenz. Keinen Vertrag. Keine Verifikationsstelle. Labore rasen auf einen Geist zu, den niemand kontrollieren kann, ohne die Art von Recht, die wir bereits bei Atomwaffen und chemischen Kampfstoffen anwenden. Ich bitte Sie: • eine dauerhafte gesetzliche Verbotsregelung zur Entwicklung künstlicher Superintelligenz zu unterstützen • einen verbindlichen internationalen Vertrag voranzutreiben, der Superintelligenz verbietet, mit Inspektionen und Verifikation • der Regierung die Aufsicht über die größten Trainingsläufe und die dafür genutzten Spezialchips zu übertragen Wir haben bereits auf existenzielle Bedrohungen reagiert. Der Atomwaffensperrvertrag. Das Montrealer Protokoll. Dieser Moment erfordert denselben politischen Mut. Mit freundlichen Grüßen [Ihr Name] [Ihre Stadt, Bundesstaat] --- Mehr erfahren: nakadafoundation.org