Südkorea und das Vereinigte Königreich waren gemeinsam Gastgeber des AI Seoul Summit, des zweiten Treffens in der Serie, die im November 2023 in Bletchley Park gestartet wurde. Die Agenda teilte sich klar. Auf der Unternehmensspur gaben führende Entwickler öffentliche Sicherheitszusagen ab. Auf der Regierungsspur vereinbarten Staaten, die Zusammenarbeit in der Evaluationswissenschaft zu vertiefen. Was jede Spur lieferte und was jede offenließ, ist immer noch die klarste Einschätzung, wo Superintelligenz-Governance 2024 stand.

Die Verpflichtungen und der Regierungsweg waren öffentliche Dokumente ohne Gesetzeskraft.

Die Frontier-KI-Sicherheitsverpflichtungen

Das Leitdokument war die Frontier AI Safety Commitments, unterzeichnet von sechzehn großen KI-Unternehmen, darunter Entwickler aus den Vereinigten Staaten, China, dem Vereinigten Königreich und den Vereinigten Arabischen Emiraten. Die Unternehmen verpflichteten sich, Sicherheitsframeworks zu veröffentlichen, in denen sie beschreiben, wie sie Risiken von Frontier-Modellen bewerten; Schwellenwerte für Risiken zu definieren, die sie als unerträglich behandeln; und, entscheidend, keine Modelle zu entwickeln oder einzusetzen, wenn diese Schwellenwerte nicht unter dieser Linie gehalten werden können, einschließlich der Verpflichtung, zurückzutreten, wenn Mitigationen scheitern.

Die bedeutsame Verschiebung war ein öffentliches Prinzip. Führende Entwickler sagten öffentlich, dass manche Fähigkeiten zu gefährlich seien, um eingesetzt zu werden, und dass sie rote Linien definieren und danach handeln würden. Die Branche bewegte sich von vagen Zusicherungen hin zu erklärten Grenzen. Die Grenzen blieben selbst definiert.

Warum reichen freiwillige Verpflichtungen nicht aus

  • Unternehmen setzen ihre eigenen Schwellenwerte. Jeder Entwickler definiert inakzeptables Risiko und wie es zu messen ist. Es gibt keinen gemeinsamen Standard und keine externe Instanz, die die Definitionen validiert.
  • Keine unabhängige Verifizierung. Nichts bestätigt, dass ein internes Sicherheitskonzept eingehalten wird oder dass Bewertungen ehrlich sind. Die Einhaltung beruht auf dem Wort des Entwicklers.
  • Keine Durchsetzung. Das Brechen eines Versprechens trägt höchstens Reputationskosten, und die Versprechen sind kein Gesetz.
  • Sie können überarbeitet oder fallen gelassen werden. Freiwillige Verpflichtungen unter Wettbewerbsdruck können leise erodieren, wenn ein Rivale vorauseilt. Selbstregulierung ist so fragil.

Ein Versprechen, das der Versprechende allein definieren, messen und brechen kann, ist ein Platzhalter für Governance. Platzhalter helfen nur, wenn etwas härteres sie absichtlich ersetzt.

Das Netzwerk von Sicherheitsinstituten

Der Regierungsweg hat etwas mit dauerhafterem Potenzial hervorgebracht: Impulse für ein internationales Netzwerk von KI-Sicherheitsinstituten. Aufbauend auf den neu geschaffenen Gremien des Vereinigten Königreichs und der Vereinigten Staaten einigten sich die Staaten auf die Zusammenarbeit bei der wissenschaftlichen Bewertung von Grenzmodellen, dem Austausch von Methoden, der Ausrichtung von Tests und dem Aufbau der technischen Kapazitäten, die ein zukünftiges Verifikationsregime benötigen würde. Öffentliche Stellen, die tatsächlich beurteilen können, ob ein Modell gefährlich ist, sind das Bindegewebe, das ein Vertrag letztendlich erfordert.

Die Seoul-Erklärung, von den versammelten Regierungen unterstützt, bekräftigte menschenzentrierte, sichere und vertrauenswürdige KI sowie die fortgesetzte internationale Zusammenarbeit. Wie der Text von Bletchley war sie eine Richtungsangabe und keine Sammlung von Verpflichtungen.

Das Muster und die Lücke

Seoul passt in ein bekanntes Muster bei der Governance gefährlicher Technologien: Anerkennung, dann freiwillige Zusage, dann (falls der Prozess gelingt) bindende Regeln. Die Unternehmenszusagen und das Institut-Netzwerk sind die zweite Stufe. Die unvollendete Arbeit ist die dritte: gemeinsame Standards, unabhängige Verifikation und rechtliche Verpflichtung.

Die Safety Institutes sind die vielversprechendste Brücke, weil die Kapazität, die sie aufbauen, genau die ist, die ein verbindliches Regime nutzen würde. Das Risiko besteht darin, dass der Gipfelprozess auf der freiwilligen Stufe stecken bleibt, dass sich die Welt mit Absichtserklärungen begnügt, weil diese leichter sind als Verträge, während die Fähigkeiten weiter voranschreiten. Seoul hat die Lücke zwischen Verpflichtung und Governance sichtbar gemacht. Sie zu schließen ist die verbleibende Aufgabe. Die Position der Foundation ist, dass dies bedeutet, von Unternehmenszusagen zu präventives internationales Recht bevor selbst definierte rote Linien unter Renn-Druck zerfallen. Weiterführende Lektüre: warum freiwillige KI-Sicherheitszusagen als alleinige Strategie scheitern.