Wie verbringst du 5 minuten, wenn die person am tisch immer noch denkt, dass ki chatgpt das erstellen einer e-mail bedeutet?. Mechanismus stapelt sich, Augen glasig. Doom häuft sich, und die leute archivieren dich mit dem straßenprediger und kehren zum nachtisch zurück. Was einen skeptischen, intelligenten Fremden überlebt, sind fünf Züge in dieser Reihenfolge.

Sie stellen sich den Chatbot vor

Wenn jemand "KI" hört, stellt er sich den Assistenten auf seinem Telefon oder der App vor, die dumme Bilder macht. Beginnen Sie dort und der Raum ist bereits weg, weil sie wissen, dass der Chatbot die Welt nicht beenden wird. Bewegen Sie das Ziel in den ersten fünfzehn Sekunden.

Die Gefahr ist eine Maschine, die besser ist als der beste Mensch bei jeder wichtigen Aufgabe, einschließlich der Aufgabe bessere Maschinen entwerfen. Der Name dafür ist künstliche Superintelligenz, und wir haben sie noch nicht. Was wir haben, ist eine erklärte Absicht. Die größten KI-Unternehmen der Erde sagen, dass ihr Bau das Ziel ist, und mehrere von ihnen erwarten, innerhalb von Jahren statt Generationen dort anzukommen. Die meisten Menschen kennen diese eine Tatsache nicht, und die Tatsache erledigt den größten Teil der Arbeit. Eine Intelligenz zu bauen, die klüger ist als wir, ist das Hauptprojekt der bestfinanzierten Labs, die es gibt. Sie werden es Ihnen selbst sagen.

Niemand weiß, wie man eine Maschine intelligenter als sich selbst steuert

Wir bauen sowieso einen.

Das Problem, eine mächtige KI dazu zu bringen, zuverlässig das zu wollen, was ihre Schöpfer wollen, und dabei zu bleiben, während sie fähiger wird, hat einen Namen: das Kontrollproblem. Sie ist ungelöst. Ingenieure in diesen Unternehmen würden dasselbe sagen, wenn man sie ohne Pressesprecher fragt. Sie können die Fähigkeit eines Modells weit schneller steigern als ihr Vertrauen, dass es das tut, was sie beabsichtigt haben. Die Distanz zwischen diesen beiden Linien ist der Ort, an dem das Risiko lebt.

Wir bauen absichtlich einen Geist, der klüger ist als unserer, bevor wir irgendeine Ahnung haben, wie wir ihn auf unsere Seite lenken können.

Warum „intelligenter“ das ganze Problem ist

Die Leute unterschätzen das Wort "intelligenter". Intelligenz stellt Menschen verantwortlich für diesen Planeten. Wir sind nicht die größten oder stärksten Kreaturen, die jemals gelebt haben. Wir führen den Ort, weil wir alles andere darüber nachdenken. Die Zukunft des Berggorillas hängt von Entscheidungen ab, die von uns getroffen werden, nicht von Gorillas und nicht, weil jemand Gorillas hasst. Wir haben Ziele. Der Wald eines Gorillas sitzt manchmal dort, wo diese Ziele hin wollen.

Stellen Sie sich vor, Sie bauen etwas, das für uns so steht, wie wir für den Gorilla stehen. Wenn seine Ziele und unsere auseinander gehen, ist Feindseligkeit optional: Ein System, das besser plant als wir, auf etwas anderes ausgerichtet, reicht bereits aus, und eine spätere Version des gleichen Setups repariert es nicht.

Der Ausschalter und Science Fiction

Erstens: Wir würden es einfach ausschalten. Ein System, das clever genug ist, um gefährlich zu sein, ist clever genug, um zu bemerken, dass das Ausschalten es daran hindern würde, das zu beenden, was es tun sollte. Es hat also einen Grund, das zu verhindern, indem es sich woanders kopiert oder sich zu nützlich macht, um es zu trennen. Der Glaube an den Ausschalter geht davon aus, dass wir die klügere Partei im Raum bleiben. Die Prämisse der Sorge ist, dass wir es nicht wären.

Zweitens: Das ist Science Fiction. Bis Systeme Tests bestanden, waren wir sicher, dass es Jahrzehnte dauern würde und dass die Arbeit, von der wir annahmen, sicher menschlich war. Niemand hat ein date, dem es sich zu vertrauen lohnt. Forscher, die der Arbeit am nächsten sind, haben leise aufgehört, Superintelligenz weit weg zu nennen, und ihre veröffentlichte Zeitpläne rücken stattdessen näher heran statt weiter weg.

Ende dort, wo sie etwas tun können

Der Fehler, den ich jahrelang machte, war, bei der Angst stehenzubleiben. Lässt man jemanden verängstigt und ohne Handlungsmöglichkeit zurück, ordnet er das Thema unter „zu groß, um darüber nachzudenken“ ein und kehrt zu seinem Abend zurück. Nutzt die letzte Minute für den Teil, den die Leute übersehen.

Das ist vermeidbar.

Kein Naturgesetz verlangt Superintelligenz in diesem Jahrzehnt oder überhaupt. Eine kleine Zahl von Unternehmen entscheidet sich dafür, sie zu bauen, und eine kleine Zahl von Regierungen entscheidet sich dafür, es zuzulassen. Entscheidungen können rückgängig gemacht werden. Was die Foundation fordert, ist eine bindende, verifizierbare Übereinkommen unter den Großmächten um den Bau von Superintelligenz dauerhaft zu verbieten. Superintelligenz kann nicht von Menschen kontrolliert werden. Die Menschheit hat das schon einmal getan, mit Waffen, die jede Seite wollte und die keine Seite sicher nutzen konnte. Ein Vertrag zwischen Rivalen ist weniger Fantasie, als es zunächst klingt.

Zwischen uns und ihr steht eine Entscheidung, die Menschen noch treffen können.

5 Minuten

  1. Es ist nicht der Chatbot. Das Ziel, das diese Unternehmen laut ausgesprochen haben, ist eine Maschine, die uns in allem überlegen ist, und sie rechnen damit in wenigen Jahren.
  2. Niemand weiß, wie man etwas kontrolliert, das klüger ist als wir. Die Fähigkeit überholt die Kontrolle, und diese Lücke ist die Gefahr.
  3. Intelligenz ist es, was Menschen an die Spitze gebracht hat. Baut man etwas über uns, setzen dessen Ziele, nicht unsere, die Bedingungen.
  4. "Schalten Sie es aus" und "das ist Science-Fiction" gehen beide davon aus, dass wir die Kontrolle behalten. Die ganze Sorge ist, dass wir es nicht tun würden.
  5. Es ist verhinderbar. Superintelligenz wird aus Wahl gebaut, und diese Wahl kann gemeinsam verweigert werden, solange noch Zeit ist.

Fünf Minuten mit jemandem, der bereit ist zuzuhören, ist für führende Leute, die fragen: "Warte, warum baut jemand das?"