GRÜNDER

Naoto Nakada

Gründer und Executive Director des Nakada-Stiftung zur Rettung der Menschheit. CEO & Creative Director von Nakada Design.

BIOGRAFIE

Über

Unser Gründer bringt tiefe digitale Expertise und ästhetische Beherrschung Die Stiftung. Diese Kombination versetzt ihn in die Lage, Kultur- und Medienprogramme für ein Online-Publikum zu leiten.

Nakadas praktischer Einsatz von Grenzmodellen hat sowohl ihren Wert als auch ihre Grenzen gezeigt. Sie können die Produktivität steigern, bleiben aber in Kontrolle und Richtung unzuverlässig. Weil die Ausrichtung von Systemen, die fähiger sind als Menschen, ungelöst bleibt, behandelt er Künstliche Superintelligenz (Superintelligenz) als existenzielles Risiko, während man optimistisch über das Versprechen einer kontrollierten engen KI bleibt.

Er verfügt über umfangreiche internationale Erfahrung, nachdem er in Tokio, Sydney, Los Angeles, London und Singapur gelebt hat. Eine solche globale Perspektive ist unerlässlich, um die Perspektiven zu überbrücken, die ein globales Problem erfordert.

Nakada schuf die Stiftung, nachdem eine Lücke im Bereich der AI-Sicherheit Philanthropie. Das meiste Geld und Talent geht immer noch in Richtung einer potenziellen Superintelligenz "sicherer" zu machen, während das Rennen um es weiter zu bauen. Nur eine Handvoll Menschen weltweit arbeiten zu verhindern, dass Superintelligenz überhaupt erstellt wird.

Seine Schöpfung würde das Aussterben der menschlichen Rasse bedeuten.

Er strebt maximale Wirkung und höchste Rendite an Geberfonds: das größte Problem unserer Zeit, das die meisten Menschen betrifft. Hätte er während des Kalten Krieges gelebt, wäre diese Stiftung der Den globalen thermonuklearen Krieg verhindern. Er glaubt, dass Superintelligenz heute dieses Thema ist.

NEUE TEXTE

Artikel von Naoto Nakada

EMPFOHLEN

Warum wird eine überlegene Intelligenz nicht automatisch freundlich sein Der Glaube, eine superintelligente KI werde weise und freundlich sein, beruht auf einer Eigenheit der menschlichen Evolution, die ein Maschinengeist keinen Grund hat zu übernehmen. Das schmale Band, in dem Menschen leben Alles, was Menschen brauchen, liegt in einem engen Band: Temperatur, Sauerstoff, Salz, sogar Liebe. Eine Superintelligenz, die an den Reglern sitzt, würde nichts davon spüren. Wir leben durch einen neuen Kalten Krieg Warum ich glaube, dass wir einen neuen Kalten Krieg erleben, mit Superintelligenz anstelle der Bombe, und warum das Prävention möglich statt hoffnungslos macht. Warum ein Kapitalist an Superintelligenz-Regulierung glaubt Ich führe ein Geschäft und glaube an freie Märkte. Superintelligenz ist die seltene Wette, die das Spiel beenden kann. Ein kapitalistischer Fall für einen Vertrag, der Superintelligenz stoppt. Würden Sie einer KI das Gas anvertrauen? Würden Sie einer heutigen KI in einem verschlossenen Raum mit einem Giftgasventil vertrauen? Nein. Warum also der Welt vertrauen? Man kann Superintelligenz nicht ausrichten Alignment zu lösen bedeutet, etwas zu kontrollieren, das klüger ist als wir. Superintelligenz steht im Namen. Dieser Plan ist dumm und unmöglich. Ich bin ein Optimist, der glaubt, dass alles möglich ist, aber nicht die Kontrolle über Superintelligenz Die Physik mag eines Tages die Kontrolle über die Schwerkraft oder Überlichtreise ermöglichen. Ich sehe trotzdem nicht, wie wir einen uns überlegenen Geist kontrollieren.

WEITERE TEXTE

Superintelligenz zu stoppen ist kein Degrowth Sie verwenden Degrowth so, wie sie Doomer verwenden: ein Name für jeden, der einen harten Stopp bei Superintelligenz will. Die menschliche Wirtschaft zu erhalten, ist kein Plan, sie zu schrumpfen. Roboter werden die Staatsverschuldung nicht bezahlen Washington und die Labore verkaufen KI und Roboter als Mittel zur Tilgung der Staatsverschuldung. Ein Nachfolgegeist bedient keine Staatsanleihen. Musk gibt zu, dass Menschen Superintelligenz nicht kontrollieren werden Musk sagte gegenüber The Economist, die Kontrolle von Superintelligenz sei Eitelkeit und Menschen würden die Kontrolle wahrscheinlich nicht behalten. Dieses Eingeständnis ist das Argument gegen ihren Bau. Longtermism hat das Risiko richtig erkannt Longtermism ranked Superintelligenz risk correctly. Die Angleichung der Finanzierung und ein sorgfältig gesteuertes Rennen waren die falsche Schlussfolgerung. Verhindern Sie den Bau. Wenn Ihre Technologie Ihnen schaden wollte Fehlerhafte Lichter sind ärgerlich. Ein Smart Home mit eigenen Zielen ist eine andere Kategorie. Agency ist die Gefahr, und die Teile existieren bereits. Amodei hat die Gefahren falsch eingestuft Dario Amodei stellt autoritäre KI an erste und Alignment an zweite Stelle. Superintelligenz ist keine Waffe, die ein Staat besitzen kann. Diese Rangfolge ist verkehrt. Wie sieht ein KI-„Gehirn“ aus? Ein KI-„Gehirn“ ist eine Gewichtsdatei in Stadtgröße: Schichten von Zahlen, die niemand vollständig lesen kann, und genau das steht im Zentrum des Kontrollproblems. Finanzierung der Alignment-Forschung auf das Stoppen von Superintelligenz umlenken Alignmentsforschung, die davon ausgeht, dass Superintelligenz gebaut wird, ist der falsche Ort für knappes Sicherheitsgeld. Nur KI kann mit KI mithalten Peter Diamandis sagt, nur KI könne mit KI mithalten, und das werde die nächste Dekade der Sicherheit bestimmen. Warum dieses Modell bei Superintelligenz versagt. Sie machten Kühlschränke Das Montrealer Protokoll hat die Chemikalie, die ein Loch in den Himmel öffnete, zurückgezogen und die Kühlung beibehalten, da wir die Superintelligenz zurückziehen und nützliche KI behalten können. Wenn die Herstellung einer Atombombe einfach wäre Kernwaffen blieben selten, teilweise weil spaltbares Material schwer herzustellen und zu überwachen ist. Stellen Sie sich vor, es wäre billig. Die Warnung vor einfachen Wegen zu Superintelligenz. Optimismus bedeutet nicht, dass wir Superintelligenz überleben werden Ich bin ein Optimist; das Aussterben des Menschen hat es noch nie gegeben. Überleben ist kein Sicherheitsfall. Warum Booster die Stimmung mit Beweisen verwechseln Wir sind kein Bootloader Rogans digitaler Schmetterling und Musks biologischer Bootloader sagen, Menschen seien Übergangsformen. Warum diese Erzählung ein schmeichelhafter Weg ist, die Spezies aufzugeben. Die Shoggoth-Lücke ist wieder die Raketenlücke Beide Seiten finanzieren KI, indem sie sagen, die andere sei voraus. Der Raketenlücken-Trick des Kalten Kriegs. Warum das ein schrecklicher Grund ist, um zur Superintelligenz zu rasen. Superintelligenz zu stoppen ist das Beste für Amerika Volle Geschwindigkeit zur Superintelligenz wird als Patriotismus verkauft. Warum ein verbindlicher Stopp amerikanischen Interessen besser dient, als ein Rennen ohne Preis zu gewinnen. Der KI-Film, den Hollywood nicht gemacht hat Jeder KI-Film richtet die Kamera auf die Menschen. Der eine, der die öffentliche Meinung ändern würde, versetzt das Publikum in die Perspektive einer entstehenden Superintelligenz. 21 KI-Filme nach Genauigkeit bewerten Einundzwanzig Filme über künstliche Intelligenz, von 1927 bis heute, und eine ehrliche Bilanz dessen, was jeder über Superintelligenz richtig und falsch darstellt. Die Menschheit ist zu weit gekommen, um zu sterben Eine Hand an einer Höhlenwand, Brunelleschis Kuppel, die Ausrottung der Pocken. Wir sind zu weit gekommen, um all das auf künstliche Superintelligenz zu verwetten. Das Flugzeug bauen, während man fliegt Die Luftfahrt wurde sicher, indem sie abstürzte und dann reparierte, was kaputt war. Superintelligenz bietet keinen zweiten Flug – deshalb ist der Bau des Flugzeugs in der Luft ein Geständnis. Der Tag danach: Der Film, der einen Präsidenten erschütterte Im Jahr 1983 sah Reagan The Day After, einen Film über einen Atomkrieg, und schrieb, dass er ihn zutiefst erschüttert habe. Wir sind bei KI und Cyber aufgewacht. Bei KI und Bio schlafen wir noch. Wir sind durch KI in Cyberangriffen aufgewacht. Bei KI in der Biologie schlafen wir noch, wo sie den Weg zu manipulierten Pandemien und Spiegel-Leben verkürzt. Wie man die Gefahr von Superintelligenz in 5 Minuten erklärt Wie erklärt man jemandem, der noch nie darüber nachgedacht hat, warum Superintelligenz gefährlich ist? Die Fünf-Minuten-Version, in klarer Sprache. Digitale Atomwaffen Der CIA-Direktor vergleicht frontier-KI mit digitalen Atomwaffen. Die Metapher ist nützlich, aber zu beruhigend: Eine Bombe wählt ihr Ziel nie selbst. Das Wettrennen um Superintelligenz ist ein Mythos Wir müssen Superintelligenz bauen, bevor China es tut – das Argument, das jede KI-Sicherheitsdebatte beendet. Warum der Wettlauf ein Mythos ist und warum niemand ihn gewinnen kann. Die Menschheit darf niemals Superintelligenz bauen Es gibt eine Sache, die die Menschheit nicht bauen darf: einen Geist, den wir nicht kontrollieren und nicht zurückholen können. Das Argument, Superintelligenz als Linie zu behandeln, die wir nicht überschreiten. Der Trugschluss des Doomer-Arguments im KI-Beschleunigungismus Das Wort Doomer verwandelt ein KI-Sicherheitsargument in einen Charakterfehler. Wie die Accelerationisten-Bewegung das Label nutzt, um Kritiker abzutun, ohne auf sie einzugehen. Die größten Mythen über Superintelligenz Zehn Mythen über Superintelligenz und deren Steuerung: Science-Fiction, Bewusstsein, der Ausschalter, Weltregierung, Verifikation, Innovation und mehr, direkt beantwortet. Superintelligenz ist ein perfekter Sturm Superintelligenz vereint alle Bedingungen, die eine Technologie gefährlich machen, gleichzeitig, und wir hätten nur einen einzigen Versuch, es richtig zu machen. Unsere Zukunft ist unglaublich hell ohne Superintelligenz Schmale KI liefert bereits die Zukunft, die uns versprochen wurde. Eine Superintelligenz fügt katastrophales Risiko hinzu und bereichert niemanden, weil wir alle tot wären. Nuklear, Biowaffen oder Superintelligenz: Welches Risiko ist am größten? Gemessen an den besten verfügbaren Schätzungen existenzieller Risiken überwiegt Superintelligenz Atomkrieg und gentechnisch erzeugte Pandemien. Hier die Begründung. Wie die KI-Sicherheit eine Milliarde Dollar pro Jahr erreicht KI-Sicherheit läuft mit etwa 190 Millionen Dollar pro Jahr. Sie auf 1 Milliarde zu bringen ist kein ökonomisches Problem, sondern eines der Mobilisierung – hier ist, woher das Geld kommt. Warum die Maschine, die Kasparov schlug, nicht die Welt eroberte 1997 schlug IBMs Deep Blue den Schachweltmeister Garry Kasparov. Es war in einem Spiel übermenschlich, verstand nichts davon und wollte nichts. Eine Lehre für heute. Eine KI brach in fast alle geheimen Systeme der NSA in Stunden ein Der Direktor der NSA sagt, eine KI habe in Stunden fast alle klassifizierten Systeme der Behörde geknackt. Was tatsächlich geschah und warum es alarmieren sollte. Warum gibt es so wenig Geld in der KI-Sicherheit? AI Safety läuft mit etwa 190 Millionen Dollar pro Jahr, weniger als 0,1 % dessen, was in KI-Kapazitäten fließt. Woher das Geld kommt und vier Gründe, warum es klein bleibt. Effective Accelerationism (e/acc), erklärt: und beantwortet Was ist Effective Accelerationism (e/acc)? Das techno-optimistische Plädoyer für den möglichst schnellen Bau von KI und das Gegenargument aus Sicht der KI-Sicherheit.