Fast jeder, der in der Öffentlichkeit an KI-Sicherheit arbeitet, wurde als Doomer bezeichnet. Das Etikett kommt vor dem Argument, vor einem Wort über Wahrscheinlichkeiten oder Zeitlinien oder was "Kontrolle" überhaupt bedeuten würde. Menschen, die das Risiko erhöhen, bekommen oft zuerst ein Etikett: verängstigt, zukunftsfeindlich, doomer. Das Label ermöglicht es Ihnen, die Debatte zu überspringen.

Der wirksamste Zug der Beschleuniger ist ein Name, kein Argument.

Woher das Wort kommt

Um 2022 und 2023 hörte die KI-Sicherheitsdebatte auf, ein internes Gespräch unter Forschern zu sein, und schwappte in die sozialen Medien, wo Argumente Teams bilden und Teams Namen bekommen. Das accelerationistische Lager (Menschen, die glauben, KI solle so schnell wie möglich gebaut werden) nahm das Suffix „e/acc“ als Erkennungszeichen an und trug es in ihren Usernamen. Sie brauchten auch einen Namen für die andere Seite. „Doomer“ war es, meist gepaart mit „decel“, kurz für deceleration, die Sünde, langsamer gehen zu wollen.

Die Stimmung verhärtete sich im Oktober, als Marc Andreessen "The Techno-Optimist Manifesto" veröffentlichte. Es liest sich weniger wie ein Argument als ein Glaubensbekenntnis, und es enthält eine Liste dessen, was es den Feind nennt, unter den Einträgen "existentielles Risiko" und "Vorsorgeprinzip", die einfache Idee, dass Sie eine mächtige Technologie verstehen möchten, bevor Sie sie in großem Maßstab einsetzen. Sobald die Sorge selbst unter dem "Feind" eingereicht wird, brauchen die Leute, die sie halten, nur ein kürzeres Etikett für den täglichen Gebrauch. "Doomer" tat den Rest, anstatt der Beschleunigungsfall.

Was das Label tatsächlich tut

Ein Doomer ist eine Figur, keine Behauptung. Er verwandelt ein Argument in einen Persönlichkeitstyp, und Persönlichkeitstypen müssen nicht beantwortet, sondern nur diagnostiziert werden.

Die Sicherheitsseite sagt, dass die Wahrscheinlichkeit einer Katastrophe von einem superintelligenten System hoch genug ist (nicht sicher, hoch genug), dass wir die Fähigkeit aufbauen sollten, diese Systeme zu kontrollieren, bevor wir die Systeme bauen. Sie können jeden Teil davon vorantreiben. Sie können argumentieren, dass die Wahrscheinlichkeit geringer ist als wir denken, dass die Zeitleiste länger ist, dass "Kontrolle" der falsche Rahmen ist, dass Governance mehr Schaden anrichten wird als das Risiko, das sie anspricht.

"Doomer" überspringt das. Das Wort sagt: Du bist die Art von Mensch, der Angst vor morgen hat. Deine Position ist eine Stimmung, keine These, und Stimmungen müssen nicht widerlegt werden: das älteste rhetorische Manöver, das Argument gegen die Person statt gegen den Punkt, in neuen Kleidern. Die Eleganz daran ist, dass es nie die eigentliche Meinungsverschiedenheit berühren muss. Es verlagert den ganzen Streit von "Ist das wahr" zu "Was für eine Art von Person glaubt das", wo der Accelerationist die Antwort bereits entschieden hat.

Das Wort verwandelt ein Argument in einen Persönlichkeitstyp, und Persönlichkeitstypen müssen nicht beantwortet, sondern nur diagnostiziert werden.

Warum es überzeugt

Das Label funktioniert, weil es aus Dingen besteht, an die die Menschen bereits über sich selbst glauben wollen.

Beginnen wir mit dem Offensichtlichen: Niemand will der Pessimist sein. Optimismus wirkt wie Zuversicht und Tatendrang; Vorsicht wirkt wie Zaghaftigkeit und Angst. Denkt man die Wahl als Builder versus Doomer, wissen die meisten Menschen bereits, welchen Stuhl sie lieber nehmen würden. Das Framing hat seine Arbeit getan, bevor eine einzige Tatsache auf den Tisch kommt.

Es stützt sich auf eine Geschichte, die Amerika über sich selbst erzählt. Fortschritte sind gut. Die Leute, die die Eisenbahn, die Druckerpresse, das elektrische Licht fürchteten, lagen falsch, und die Geschichte erinnert sich an sie als Narren. Der Accelerationist nimmt diese Geschichte aus dem Regal und wirft den Sicherheitsanwalt als den neuesten Namen auf der Liste der verängstigten Menschen, die von der Zukunft in Verlegenheit gebracht werden. Der Schritt ist, ohne Argument anzunehmen, dass es diesmal wieder wahr ist, dass Superintelligenz die Druckerpresse ist und nicht etwas Neues. Ob es die gleiche Geschichte ist, ist die gesamte Frage, und das Etikett existiert, so dass die Frage nie gestellt wird.

Gegen wen das Wort gerichtet wird

Stellt die Menschen auf, auf die es geworfen wird, und die Karikatur zerfällt in den Händen.

Geoffrey Hinton verließ Google im Jahr 2023, damit er ohne einen Corporate Minder über das Risiko sprechen konnte; er steht einem Gründungsvater so nahe wie das Feld. Yoshua Bengio, einer der am meisten zitierten lebenden Forscher, kam aus seiner eigenen Arbeit zur gleichen Sorge. Im Mai 2023 setzten Hunderte von Wissenschaftlern und Führungskräften (einschließlich der Leiter der Labors, die die Technologie entwickeln) ihre Namen in eine Erklärung, in der das Aussterberisiko von KI in die gleiche Kategorie wie Pandemien und Atomkrieg gestellt wurde. Sie haben keine Angst vor Technologie. Sie haben dieses gebaut. Was auch immer Sie ihre Position nennen wollen, "Angst vor der Zukunft" ist keine Beschreibung davon, es ist eine Art, ihr nicht zuzuhören.

Das Wort flacht auch ein breites Spektrum bis zu einem Punkt. Es gibt einen enormen Abstand zwischen jemandem, der glaubt, dass eine Katastrophe fast sicher ist, und jemandem, der es auf ein paar Prozent setzt und trotzdem eine Versicherung wünscht, den Abstand zwischen einem Propheten und einem Aktuar. Beide werden als doomers eingereicht. Das Label kann den Unterschied nicht erkennen, weil es nie gebaut wurde; seine Aufgabe ist es, eine technische, abwechslungsreiche, oft recht gemäßigte Reihe von Ansichten wie einen wilden Augenkult aussehen zu lassen. Die reale Bandbreite von Experten-Schätzungen ist die Sache, die das Etikett ist entworfen, um zu löschen.

Der Hinweis

Eine Bewegung, die in ihrer Antwort auf die Sicherheitsfrage zuversichtlich ist, würde keinen Spitznamen für die Leute brauchen, die sie fragen.

Wenn das katastrophale Risiko wirklich nahe Null liegt, ist das ein Anspruch, den Sie offen verteidigen können. Zeigen Sie die Argumentation. Erklären Sie, warum die Forscher, die die Systeme gebaut haben, in Bezug auf die Systeme, die sie gebaut haben, falsch liegen. Machen Sie die Fall dass die Ausrichtung sich als einfach herausstellt, oder dass größere Intelligenz zuverlässig mehr Sorgfalt bringt, oder dass das Rennen zwischen den Labors sich irgendwie korrigiert, bevor jemand eine tödliche Ecke schneidet.

Das Wort „Doomer“ füllt den Raum, wo sonst das Argument stünde. Man greift zu einer Etikettierung, wenn man den Punkt lieber nicht ansprechen möchte. Den Gegner zu benennen ist billiger, als ihn zu widerlegen, und aus der Distanz sieht es für die Menge oft genug wie ein Sieg aus.

Wie man darauf antwortet

Verweigern Sie den Rahmen. Sobald das Gespräch zu Builder-versus-Doomer wird, hat die Substanz den Raum bereits verlassen. Ziehen Sie es mit einer Frage zurück auf die Sachebene: Welche Wahrscheinlichkeit räumen Sie einem katastrophalen Risiko ein, und warum genau diese Zahl? Fast niemand, der das Wort als Waffe schwingt, kann antworten, denn das Wort ist genau dafür da, dass er sich nie damit auseinandersetzen musste. Wenn Sie sehen möchten, wie eine solche Zahl tatsächlich aufgebaut und nicht nur behauptet wird, haben wir eine P(Untergang) Rechner der die Teile durchgeht.

Dann ziehen Sie das Etikett von der Forderung. "Doomer" heftet eine Karikatur (ein düsterer Pessimist, der den Fortschritt hasst) auf eine Behauptung, die normalerweise viel schmaler und viel langweiliger ist: dass diese bestimmte Technologie ein besonderes Risiko birgt, das besondere Sorgfalt erfordert. Schälen Sie sie auseinander. Die Argument für die gute Zukunft führt direkt durch das richtige Erledigen dieses Teils, nicht darum herum.

Wenn der stärkste Zug, den eine Bewegung gegen ihre Kritiker hat, darin besteht, ihnen einen unvorteilhaften Namen zu geben, hat sie keine Antwort auf das Risiko. Unsere Position beruht darauf: Superintelligenz lässt sich nicht rückgängig machen, also baut man sie nicht.