Un traité international contraignant sur la sécurité de l'IA ne nous sera pas offert sur un plateau. Il faut plaider en sa faveur, l'organiser et le financer. Notre indépendance dépend entièrement de personnes comme vous.
Statut organisationnel. Unincorporated philanthropic association, United States. , le parrainage fiscal est en cours et imminent, sous réserve de la première levée de fonds. Les dons ne sont déductibles d'impôt que lorsque nous sommes sous un parrain admissible.
La majeure partie des fonds consacrés à la sécurité de l’IA va encore aux laboratoires et à la recherche technique qui considèrent la superintelligence comme inévitable. Presque aucun ne finance le travail politique visant à faire en sorte que la superintelligence ne soit jamais construite. Nous effectuons ce travail, et seulement celui-ci : un traité international contraignant, une pression publique et la campagne d’attention qui rend le traité possible. Nous n’acceptons aucun financement des laboratoires d’IA ni de leurs investisseurs.
La sécurité technique de l'IA contrôle déjà l'argent du domaine et ses esprits les plus brillants, et malgré tous ces efforts, personne n'a montré comment contrôler de manière fiable un système bien plus intelligent que les humains qui le construisent. En supposant que contrôler une entité bien plus intelligente que nous soit même soluble, cela ne sera très certainement pas résolu à temps. La seule protection restante est le choix de ne pas construire de tels systèmes tant qu'ils ne peuvent pas être rendus sûrs. Ce choix est politique, et il est gravement sous-financé.
Un don ici finance la pièce manquante. Pas un énième article sur la façon de contrôler un esprit plus intelligent que ses concepteurs. Du personnel, des organisateurs, des réponses sur X qui rencontrent vraiment les slogans de la course là où ils atterrissent, du contenu que les législateurs et les créateurs voient, et la longue campagne pour orienter la philanthropie vers la prévention. Dollar pour dollar, c'est là que le prochain dollar réduit le plus le risque d'extinction.
Ce que couvre votre don est détaillé ligne par ligne ci-dessous. Nous nous engageons à publier les dons importants au-delà d’un seuil de transparence que nous fixerons publiquement.
Impossible de donner pour l’instant? Donnez plutôt votre temps.
Préférez-vous donner à grande échelle une fois que les dons déductibles d’impôts seront disponibles? Inscrivez votre intérêt pour les dons majeurs et institutionnels.
Les dons en ligne ne sont pas encore disponibles.Inscrivez votre intérêt et nous vous informerons dès que les dons seront ouverts.
Si vous voulez qu'un don fasse autant de bien qu'un don peut en faire.
Le point d'un don est son effet, et l'effet d'un dollar n'est pas le même partout. Donc, la question honnête est de savoir si c'est le meilleur usage disponible du prochain dollar. Prenez cette question au sérieux et tout le reste en découle.
Les causes à plus fort impact sont celles qui touchent tout le monde, et tous ceux qui viendront après. Une menace pour tout l'avenir de l'humanité dépasse tout problème circonscrit, car ce qu’il met en jeu n’est pas une génération, mais toutes celles qui pourraient jamais suivre.
Parmi les technologies susceptibles de mettre fin à l’humanité, la superintelligence artificielle arrive en tête. Selon les meilleures estimations structurées disponibles, elle présente un risque de l’ordre de cent fois le risque d'extinction d'une guerre nucléaire, et c’est le seul qui s’améliore lui-même et agit contre toutes les contre-mesures que nous mettons en place.
La recherche en sécurité technique mobilise déjà l'argent du domaine et ses meilleurs esprits, et pourtant personne ne peut encore contrôler un système bien plus intelligent que nous. Le travail sous-financé est d'une autre nature : l'accord international contraignant et vérifié qui empêche la construction d'une superintelligence tant qu'elle ne peut pas être rendue sûre. Nous nous concentrons strictement sur ce seul objectif, et non sur la recherche qui existe déjà.
La chose la plus impactante que vous puissiez financer est la prévention de la superintelligence, et la partie la plus négligée de cet effort est le combat politique pour la rendre légale. C'est exactement là que va votre don, et pourquoi un dollar ici est, dollar pour dollar, parmi les dons les plus impactants que vous puissiez faire.
Financez la mission →Les cadeaux couvrent ce qu'il en coûte pour exécuter les programmes ci-dessous.
Nous avons besoin de financement dès que possible pour une personne à temps plein qui répond sur X chaque fois que la course superintelligence, la Singularité, ou la superintelligence est le terrain. Les slogans de course atterrissent toutes les heures sans comptoir prudent dans le fil. X est là où les législateurs, les journalistes et les chefs de laboratoire lisent. Une réponse peut atteindre des millions d'impressions. Votre argent paie pour un compte X Organisation et le salaire de la personne qui écrit et répond chaque jour. Résultat mesurable: impressions et portée sur les réponses et les publications originales (statistiques publiques une fois le compte actif).
L'écriture de forme courte et longue, les images, les infographies et la vidéo: travail original sur la superintelligence fait pour qu'un non-spécialiste puisse le suivre en une seule séance. Fait une fois, puis poussé à travers chaque plate-forme que nous pouvons atteindre. L'œuvre est créative, et elle rencontre des gens où ils sont déjà : des explications, des essais, des visuels, et des contes cinématographiques qui rendent les enjeux lisibles sans fond technique. Votre argent paie pour les personnes qui font le travail original, les comptes sociaux vérifiés, et les outils qui le distribuent ainsi les heures vont dans l'argument plutôt que la file d'attente d'affichage. Résultat mesurable: vues et le temps de regarder sur les pièces originales.
Le public votant ne lit pas les documents. Ou regarder des vidéos académiques sèches. Nous produirons l'anime "Ghibli-style" qui est divertissant, partageable et informatif. Votre argent paie pour les gens qui font ces films et pour les avoir vus. Résultat mesurable: vues, temps de veille et partages.
Nous avons déjà commencé à trouver des gens qui peuvent faire ce travail. Une leçon est venue rapidement : une seule vidéo a pris des mois pour finir. Trop lent. La course continue de bouger alors qu'un film se trouve dans la file d'attente. Une vidéo ne devrait pas prendre des mois. L'argent ici paie pour mettre plus de ces gens sur le travail à la fois. Résultat mesurable: délai entre le début et la publication des pièces originales.
Plus placement payé où l'opinion se forme réellement.Parrainer des newsletters spécialisées que les législateurs et leur personnel ouvrent déjà. Sponsoriser des podcasts que ces mêmes personnes écoutent en allant au travail. Sponsoriser des créateurs de contenu avec un public réel. Les gens forment leur point de vue de créateurs. Qui affiche sur l'superintelligence comme un risque existentiel aujourd'hui: presque personne avec portée. C'est comme vivre la guerre froide alors que presque personne avec un micro ne parle de prévenir la guerre nucléaire. Remplir ce silence est le moyen bon marché de rendre la menace lisible avant même qu'un vote de traité ne soit prévu, et non la vanité. Votre argent paie pour les sponsors créateur et newsletter, la souscription podcast. Résultat mesurable: placement atteindre où nous parrainons la distribution.
Beaucoup de philanthropie va encore à l'alignement : la recherche technique visant à faire en sorte que la future superintelligence se passe bien. Dites ce que « résoudre l'alignement » signifierait vraiment. Cela signifie contrôler de manière fiable quelque chose de bien plus intelligent que nous. C'est dans le nom: superintelligence. Parier à l'espèce sur le contrôle d'un esprit plus intelligent que tout homme qui l'a construit est un plan stupide, et sur la preuve que nous avons, un plan impossible. L'utilisation ambitieuse de l'argent des donateurs est du personnel rémunéré dont le travail est de rencontrer les bailleurs de fonds et les conseillers, plaider pour rediriger le capital de sécurité rare vers le traité, la vérification et la pression publique, et faire cela travailler dans les pièces où l'argent est déjà promis. Pas un autre papier dans cette pile. La sécurité des systèmes restreints qui peut être effectivement contrôlée mérite encore d'être financée. Des recherches qui supposent que nous construirons une nouvelle espèce et que nous ne la laisserons pas. Les leaders de l'altruisme efficace ont une fois réorienté la philanthropie vers les moustiquaires de paludisme en faisant ce genre de cas. Si nous prenons la même route sur la superintelligence, nous le dirons avant de demander les dollars supplémentaires.
Soyez informé·e dès que les dons en ligne sécurisés seront disponibles. Vous recevrez aussi des points d’étape occasionnels sur l’usage des fonds.