Asilomar: Als Wissenschaftler
Haben ihr eigenes Feld pausiert

In den frühen 1970er Jahren lernten Biologen, Gene von einem Organismus in einen anderen einzufügen. Rekombinante DNA öffnete Medizin und Biologie zugleich, und sie ängstigte die Menschen, die sie erfanden. Sie konnten nicht ausschließen, dass ein modifizierter Organismus aus einem Labor entkommen und Schaden anrichten könnte, den niemand einzudämmen wusste. Also taten sie etwas fast Unerhörtes. Sie hörten auf.

1974 riefen führende Forscher, darunter spätere Nobelpreisträger, öffentlich zu einem freiwilligen Moratorium für die gefährlichsten Experimente mit rekombinanter DNA auf. Im Februar 1975 trafen sich etwa 140 Wissenschaftler zusammen mit Juristen und Journalisten im Asilomar-Konferenzzentrum in Kalifornien, um die Bedingungen festzulegen, unter denen die Arbeit sicher wieder aufgenommen werden konnte. Sie einigten sich auf ein Rahmenwerk von Containment-Maßnahmen, die dem Risiko entsprachen, und die Forschung wurde unter vereinbarten Sicherheitsvorkehrungen wieder aufgenommen. Für Befürworter einer Pause bei Frontier-KI ist dies der Referenzpunkt: ein Fachgebiet, das seine eigene Gefahr erkannte und Vorsicht vor Geschwindigkeit wählte.

Was Asilomar wirklich richtig gemacht hat

Die Leistung ist real und es lohnt sich, sie klar zu benennen.

Wissenschaftler handelten eher vor einer Katastrophe als nach einer, was die seltenste und wertvollste Sache in der gesamten Geschichte der Technologiesicherheit ist. Sie akzeptierten Zurückhaltung bei ihrer eigenen Arbeit, einschließlich Forschung, die Ruhm und Fortschritt versprach, weil das Risiko es rechtfertigte. Und sie bauten praktische Regeln, die auf das Gefahrenniveau abgestimmt waren, anstatt entweder die Gefahr zu ignorieren oder das Feld völlig zu verbieten. Es ist ein Beweis dafür, dass eine Forschungsgemeinschaft ihre eigene Grenze betrachten, sie für zu gefährlich halten und zurückhalten kann. Dieser Präzedenzfall ist eine direkte Widerlegung der Behauptung, dass Pausieren einer leistungsfähigen Technologie ist naiv oder unmöglich.

Warum es ein schwierigeres Modell ist, als es aussieht

Ehrlichkeit gegenüber dem Präzedenzfall bedeutet zu benennen, warum KI ein schwierigerer Fall ist, denn genau die Unterschiede haben Asilomar zum Erfolg gemacht.

• Es war eine kleine, einheitliche Gemeinschaft. Ein paar Dutzend Labore, eine wissenschaftliche Kultur, Menschen, die sich kannten. Frontier AI ist ein globaler Wettbewerb unter Konzernen und Staaten im Wert von Billionen, ohne gemeinsamen Tisch.
• Die kommerziellen Einsätze waren 1975 bescheiden. Die Biotech-Industrie existierte damals kaum. KI kommt mit den größten Unternehmen der Welt und bereits engagierten nationalen Sicherheitsapparaten, was die Rennen-Dynamik Asilomar nie gegenüberstand.
• Neustart war das Ziel. Asilomar wurde entworfen, um sichere Bedingungen für die Fortsetzung zu finden, nicht um unbefristet zu stoppen. Sein Containment-Modell ging davon aus, dass man die Gefahr in einem physischen Labor einschließen könnte. Eine fähige KI ist auf diese Weise nicht offensichtlich einzudämmen.

Es gibt auch einen ernüchternden Epilog. Der Asilomar-Konsens hielt teilweise, weil es ein enger Moment mit ausgerichteten Anreizen war, und selbst dann hing er von freiwilligem Wohlwollen ab, das ein kommerzielleres, wettbewerbsintensiveres Feld belasten würde. Was unter 140 kollegialen Wissenschaftlern funktionierte, lässt sich nicht ohne Weiteres auf eine zersplitterte globale Industrie unter starkem Druck zu siegen übertragen.

Asilomar beweist, dass eine Pause möglich ist. Es zeigt auch die Bedingungen, die eine Pause braucht, und wie wenige davon die KI derzeit hat.

Freiwilliger Goodwill ist nicht genug für KI

Beide Hälften von Asilomar Materie. Es widerlegt den Fatalismus, der sagt, dass nichts getan werden kann, dass eine mächtige Technologie nicht verlangsamt werden kann. Wissenschaftler taten es absichtlich, und der Himmel fiel nicht. Aber es zeigt auch, dass der informelle, freiwillige, kollegiale Mechanismus, der 1975 funktionierte, nicht genug für AI ist, weil AI die kleine Gemeinschaft, die niedrigen Einsätze und die einstellbare Gefahr fehlt, die den guten Willen ausreichen lassen. Die richtige Schlussfolgerung ist, dass KI braucht, was Asilomar erreichen könnte, echte Zurückhaltung vor der Gefahr, geliefert durch die verbindliche, überprüfbare, internationale Maschinerie, die ein Billionen-Dollar-globales Rennen erfordert, nicht dass KI einen eigenen Asilomar braucht.