Ein verbindlicher internationaler KI-Sicherheitsvertrag wird uns nicht überreicht. Er muss dafür argumentiert, organisiert und bezahlt werden. Unsere Unabhängigkeit hängt vollständig von Menschen wie Ihnen ab.
Organisationsstatus. Unincorporated philanthropic association, United States. , Steuerliche Sponsoring steht aus und unmittelbar bevor, abhängig von der ersten Mittelbeschaffung. Geschenke sind nicht steuerlich absetzbar, bis wir unter einem qualifizierten Sponsor sind.
Der größte Teil des Geldes in der KI-Sicherheit fließt immer noch an Labore und technische Forschung, die Superintelligenz als unvermeidlich behandeln. Fast nichts davon finanziert die politische Arbeit, dafür zu sorgen, dass Superintelligenz nie gebaut wird. Wir machen genau diese Arbeit und nur diese: einen bindenden internationalen Vertrag, öffentlichen Druck und die Aufmerksamkeitskampagne, die den Vertrag möglich macht. Wir nehmen kein Geld von KI-Laboren oder deren Investoren.
Technische KI-Sicherheit beansprucht bereits das Geld des Feldes und seine klügsten Köpfe, und trotz all dieser Anstrengungen hat niemand gezeigt, wie man ein System zuverlässig kontrolliert, das weit intelligenter ist als die Menschen, die es bauen. Angenommen, die Kontrolle einer Entität, die weit intelligenter ist als wir, ist überhaupt lösbar, wird sie mit Sicherheit nicht rechtzeitig gelöst. Der einzige verbleibende Schutz ist die Entscheidung, solche Systeme nicht zu bauen, bis sie sicher gemacht werden können. Diese Entscheidung ist politisch, und sie ist stark unterfinanziert.
Eine Spende hier finanziert das fehlende Stück. Nicht noch ein Papier darüber, wie man einen Geist kontrolliert, der klüger ist als seine Erbauer. Mitarbeiter, Organisatoren, X-Antworten, die die Rennparolen dort treffen, wo sie landen, Inhalte, die Gesetzgeber und Schöpfer sehen, und der lange Druck, Philanthropie auf Prävention auszurichten. Dollar für Dollar ist das der Ort, an dem der nächste Dollar das Aussterberisiko am stärksten senkt.
Was Ihre Spende abdeckt, wird im Folgenden Zeile für Zeile dargelegt. Wir verpflichten uns, bedeutende Spenden oberhalb einer Transparenzschwelle zu veröffentlichen, die wir öffentlich festlegen.
Nicht in der Lage, jetzt zu geben? Spenden Sie stattdessen Ihre Zeit.
Möchten Sie lieber großzügig spenden, sobald die steuerabzugsfähige Spendenmöglichkeit verfügbar ist? Interesse für große und institutionelle Spenden registrieren.
Online-Spenden sind noch nicht verfügbar.Registrieren Sie Ihr Interesse und wir werden Sie informieren, sobald das Spenden möglich ist.
Wenn eine Spende so viel Gutes bewirken soll wie möglich.
Der Sinn eines Geschenks ist seine Wirkung, und die Wirkung eines Dollars ist nicht überall gleich. Die ehrliche Frage ist also, ob dies die beste verfügbare Verwendung des nächsten Dollars. Nehmen Sie diese Frage ernst, und alles andere ergibt sich daraus.
Die wirkungsvollsten Anliegen sind jene, die alle erreichen und alle, die nach uns kommen. Eine Bedrohung für die gesamte menschliche Zukunft überwiegt jedes begrenzte Problem, denn auf dem Spiel steht nicht eine Generation, sondern jede Generation, die je folgen könnte.
Unter den Technologien, die die Menschheit beenden könnten, steht die künstliche Superintelligenz ganz oben. Nach den besten verfügbaren strukturierten Schätzungen trägt sie etwas in der Größenordnung von hundertmal das Aussterberisiko eines Atomkriegs, und es ist das einzige, das sich selbst verbessert und gegen jede Gegenmaßnahme vorgeht, die wir ergreifen.
Technische Sicherheitsforschung erhält bereits das Geld und die besten Köpfe des Feldes, und dennoch kann niemand ein System kontrollieren, das uns weit überlegen ist. Die unterfinanzierte Arbeit ist die andere Art: die verbindliche, verifizierte internationale Vereinbarung, die verhindert, dass Superintelligenz gebaut wird, bis sie sicher gemacht werden kann. Wir konzentrieren uns ausschließlich auf dieses eine Ziel, nicht auf die Forschung, die bereits existiert.
Das wirkungsvollste, was man finanzieren kann, ist die Verhinderung von Superintelligenz, und der am meisten vernachlässigte Teil davon ist der politische Kampf, sie gesetzlich zu verankern. Genau dorthin fließt Ihre Spende, und deshalb ist ein Dollar hier, Dollar für Dollar, eine der wirkungsvollsten Spenden, die man machen kann.
Die Mission finanzieren →Geschenke decken ab, was es kostet, die Programme unten auszuführen.
Wir brauchen so schnell wie möglich eine Finanzierung für eine Vollzeitperson, die auf X antwortet, wenn das Superintelligenz-Rennen, die Singularität oder Superintelligenz der Platz ist. Rennslogans landen jede Stunde ohne sorgfältigen Zähler im Thread. X ist der Ort, an dem Gesetzgeber, Journalisten und Laborleiter tatsächlich lesen. Eine Antwort kann Millionen von Impressionen erreichen. Ihr Geld zahlt für ein X-Organisationskonto und die Löhne der Person, die jeden Tag schreibt und antwortet. Messbarer Output: Impressionen und Reichweite bei Antworten und Originalbeiträgen (öffentliche Analysen, sobald das Konto live ist).
Kurzes und langes Schreiben, Bilder, Infografiken und Videos: Originalarbeit über Superintelligenz, die ein Nicht-Spezialist in einer Sitzung verfolgen kann. Einmal gemacht, dann über jede Plattform geschoben, die wir erreichen können. Die Arbeit ist kreativ und trifft Menschen dort, wo sie bereits sind: Erklärer, Essays, Visuals und filmangrenzendes Storytelling, die die Einsätze ohne technischen Hintergrund lesbar machen. Ihr Geld zahlt für die Leute, die die ursprüngliche Arbeit machen, verifizierte Sozialkonten und die Werkzeuge, die es verteilen, so dass Stunden in das Argument und nicht in die Posting-Warteschlange gehen. Messbarer Output: Ansichten und Uhrzeit auf Originalstücke.
Das wählende Publikum liest keine Papiere. Oder schauen Sie sich trockene akademische Videos an. Wir produzieren Ghibli-style Anime, die unterhaltsam, teilbar und informativ ist. Ihr Geld zahlt für die Leute, die diese Filme machen und dafür, dass sie gesehen werden. Messbarer Output: Views, Watch Time und Shares.
Wir haben bereits begonnen, Leute zu finden, die diese Arbeit machen können. Eine Lektion kam schnell: Ein einzelnes Video hat Monate gedauert, bis es fertig war. Das ist zu langsam. Das Rennen bewegt sich weiter, während ein Film in der Schlange steht. Ein Video sollte keine Monate dauern. Geld hier zahlt sich aus, um mehr von diesen Leuten auf einmal an die Arbeit zu bringen. Messbarer Output: Zeit von Anfang bis Veröffentlichung bei Originalbeiträgen.
Plus bezahlte Platzierung, wo sich tatsächlich eine Meinung bildet.Sponsere spezialisierte Newsletter die Gesetzgeber und ihr Personal bereits öffnen. Podcasts sponsern die dieselben Leute auf dem Weg zur Arbeit hören. Sponsern Sie Inhaltsersteller mit echtem Publikum. Menschen bilden ihre Ansichten von Schöpfern. Wer heute über Superintelligenz als existenzielles Risiko schreibt: fast niemand mit Reichweite. Das ist, als würde man den Kalten Krieg durchleben, während fast niemand mit einem Mikrofon darüber spricht, einen Atomkrieg zu verhindern. Dieses Schweigen zu füllen ist der billige Weg, die Bedrohung lesbar zu machen, bevor eine Vertragsabstimmung überhaupt geplant ist, nicht Eitelkeit. Ihr Geld zahlt für Creator und Newsletter Sponsoring, Podcast Underwriting. Messbarer Output: Platzierung erreichen, wo wir den Vertrieb sponsern.
Viel Philanthropie richtet sich noch immer auf Alignment: technische Forschung, die darauf abzielt, dass zukünftige Superintelligenz gut verläuft. Benennen Sie, was „Alignment lösen“ tatsächlich bedeuten würde. Es würde bedeuten etwas zuverlässig zu kontrollieren, das weit intelligenter ist als wir. Es steckt im Namen: Superintelligenz. Die Spezies darauf zu wetten, einen Geist zu kontrollieren, der klüger ist als jeder Mensch, der ihn gebaut hat, ist ein dummer Plan, und nach den Beweisen, die wir haben, ein unmöglicher. Der ehrgeizige Einsatz von Spendergeldern ist bezahltes Personal, dessen Aufgabe es ist, Zuschussgeber und Berater zu treffen, das Argument dafür vorbringen, knappes Sicherheitskapital auf Vertrag, Verifizierung und öffentlichen Druck umzulenken, und dies in den räumen tun, in denen das geld bereits zugesagt ist. Kein weiteres Papier in diesem Stapel. Schmale Systemsicherheit, die tatsächlich kontrolliert werden kann, verdient immer noch Finanzierung. Forschung, die davon ausgeht, dass wir eine Nachfolgeart bauen und dann an der Leine nicht. Führer im effektiven Altruismus lenkten einmal Philanthropie zu Malarianetzen um, indem sie diese Art von Fall machten. Wenn wir den gleichen Weg zur Superintelligenz einschlagen, werden wir das sagen, bevor wir die zusätzlichen Dollars verlangen.
Erhalten Sie eine Benachrichtigung, sobald sichere Online-Spenden möglich sind. Sie erhalten außerdem gelegentliche kurze Berichte darüber, wohin das Geld fließt.