FONDATEUR

Naoto Nakada

Fondateur et Directeur exécutif du Fondation Nakada pour Sauver l'Humanité. PDG et Directeur créatif de Nakada Design.

BIOGRAPHIE

À propos

Notre fondateur apporte une expertise numérique profonde et une maîtrise esthétique à la Fondation. Cette combinaison lui permet de diriger la programmation culturelle et médiatique pour un public en première ligne.

Le déploiement pratique de modèles frontières par Nakada a montré leur valeur et leurs limites. Ils peuvent augmenter la productivité, mais ils restent peu fiables dans le contrôle et la direction. Parce que les systèmes d'alignement plus capables que les humains restent non résolus, il traite superintelligence artificielle (superintelligence) en tant que risque existentiel, tout en restant optimiste quant à la promesse d'IA étroite contrôlée.

Il possède une vaste expérience internationale, ayant résidé à Tokyo, Sydney, Los Angeles, Londres et Singapour. Une telle perspective mondiale est essentielle pour rapprocher les perspectives d'un problème mondial.

Nakada a créé la Fondation après avoir identifié une lacune dans le domaine de philanthropie de sécurité contre l'IA. La plupart de l'argent et le talent vont encore à faire un potentiel superintelligence -Safer, tandis que la course pour le construire continue. Seule une poignée de personnes dans le monde travaillent pour empêcher la création d'superintelligence.

Sa création signifierait l'extinction de la race humaine.

Il vise un impact maximum et le meilleur retour sur des donateurs: le plus grand problème de notre temps, affectant le plus les gens. S'il avait vécu pendant la guerre froide, cette fondation aurait été dédiée à prévenir la guerre thermonucléaire mondiale. Il croit que l'superintelligence est cette question aujourd'hui.

ÉCRITS RÉCENTS

Articles par Naoto Nakada

EN VEDETTE

Pourquoi une intelligence supérieure ne sera pas automatiquement bienveillante La conviction qu’une IA superintelligente sera sage et bienveillante repose sur une particularité de l’évolution humaine qu’un esprit mécanique n’a aucune raison d’hériter. La bande étroite dans laquelle vivent les humains Tout ce dont les humains ont besoin tient dans une bande étroite : température, oxygène, sel, même l'amour. Une superintelligence tenant les commandes ne ressentirait aucun de ces besoins. Nous vivons une nouvelle guerre froide Pourquoi je crois que nous vivons une nouvelle guerre froide, avec la superintelligence à la place de la bombe, et pourquoi cela rend la prévention possible plutôt qu’illusoire. Pourquoi un capitaliste croit en la régulation superintelligence Je dirige une entreprise et je crois aux marchés libres. La superintelligence est le pari rare qui peut mettre fin au jeu. Un argument capitaliste pour un traité qui arrête superintelligence. Feriez-vous confiance à l'IA pour le gaz? Feriez-vous confiance à une IA actuelle dans une pièce verrouillée avec une valve de gaz toxique ? Non. Alors pourquoi lui faire confiance avec le monde? Vous ne pouvez pas aligner la superintelligence Résoudre l'alignement signifie contrôler quelque chose de plus intelligent que nous. La superintelligence est dans le nom. Ce plan est stupide et impossible. Je suis optimiste et je crois que tout est possible, sauf contrôler la superintelligence La physique pourra peut-être un jour donner le contrôle de la gravité ou le voyage plus rapide que la lumière. Je ne vois toujours pas comment nous contrôlerions une intelligence plus fine que la nôtre.

PLUS D'ARTICLES

Arrêter la superintelligence n'est pas décroissance Ils utilisent la décroissance comme ils utilisent doomer: un nom pour quiconque veut un arrêt dur sur superintelligence. Garder l'économie humaine n'est pas un plan pour la réduire. Les robots ne paieront pas la dette nationale Washington et les laboratoires vendent l'IA et les robots comme moyen de rembourser la dette nationale. Un esprit successeur ne sert pas les bons du Trésor. Musk admet que les humains ne contrôleront pas superintelligence Musk a déclaré à The Economist que contrôler la superintelligence relève de la vanité et que les humains ne resteront probablement pas aux commandes. Cet aveu constitue l'argument contre sa construction. Le long-termisme a vu juste sur le risque Le longtermisme a correctement classé le risque superintelligence. Financer l'alignement et une course soigneusement dirigée était la mauvaise conclusion. Empêchons sa construction. Si votre technologie voulait vous nuire Des lumières défectueuses sont agaçantes. Une maison intelligente dotée de ses propres objectifs relève d’une autre catégorie. L’agentivité est le danger, et les pièces existent déjà. Amodei a mal classé les dangers Dario Amodei place l'IA autoritaire en premier et l'alignement en second. La superintelligence n'est pas une arme qu'un État peut posséder. Ce classement est à l'envers. À quoi ressemble un « cerveau » d'IA? Un « cerveau » d’IA est un fichier de poids de la taille d’une ville : des couches de nombres que personne ne peut lire entièrement, et ce fait se trouve au cœur du problème du contrôle. Rediriger le financement de l'alignement vers l'arrêt de la superintelligence La recherche sur l'alignement qui suppose que la superintelligence sera construite est le mauvais endroit pour les maigres fonds de sécurité. Seule l'IA peut suivre l'IA Peter Diamandis affirme que seule l'IA peut suivre l'IA, et que cela guidera la prochaine décennie de la sécurité. Pourquoi ce modèle échoue face à la superintelligence. Ils ont fait des réfrigérateurs Le Protocole de Montréal a retiré le produit chimique qui ouvrait un trou dans le ciel et a maintenu la réfrigération, car nous pouvons retirer la superintelligence et garder l'IA utile. Si faire une bombe nucléaire était facile Les armes nucléaires sont restées rares en partie parce que le matériau fissile est difficile à fabriquer et à surveiller. Imaginez s’il était bon marché. L’avertissement pour les voies faciles vers superintelligence. L'optimisme ne veut pas dire que nous survivrons à la superintelligence Je suis optimiste; l'extinction humaine n'a jamais eu lieu auparavant. La survie n'est pas un cas de sécurité. Pourquoi les boosters confondent humeur et preuves. Nous ne sommes pas un bootloader Le papillon numérique de Rogan et le bootloader biologique de Musk affirment que les humains sont transitoires. Pourquoi ce récit est une voie flatteuse pour abandonner l'espèce. Le fossé du Shoggoth est à nouveau le fossé des missiles Les deux camps financent l'IA en affirmant que l'autre est en avance. Le vieux tour de l'écart de missiles de la guerre froide. Pourquoi c'est une terrible raison de courir vers la superintelligence. Arrêter la superintelligence est le meilleur choix pour l'Amérique Toute la vitesse de la superintelligence est vendue comme patriotisme. Pourquoi un arrêt contraignant sert mieux les intérêts américains que de gagner une course sans prix. Le film sur l'IA qu'Hollywood n'a pas fait Chaque film sur l'IA braque la caméra sur les humains. Celui qui changerait l'opinion du public place le spectateur derrière les yeux d'une superintelligence émergente. Classement de 21 films sur l'IA selon leur précision Vingt et un films sur l'intelligence artificielle, de 1927 à nos jours, et un bilan honnête de ce que chacun comprend bien ou mal à propos de la superintelligence. L'humanité a trop avancé pour mourir Une main sur une paroi de grotte, le dôme de Brunelleschi, la variole chassée de la terre. Nous sommes allés trop loin pour tout miser sur la superintelligence artificielle. Construire l'avion tout en le pilotant L’aviation est devenue sûre en s’écrasant, puis en corrigeant ce qui avait cassé. La superintelligence n’offre pas de second vol, c’est pourquoi construire l’avion en plein air revient à un aveu. Le jour d'après : le film qui a secoué un président En 1983, Reagan a regardé The Day After, un film sur la guerre nucléaire, et a écrit qu'il l'avait profondément secoué. Nous nous sommes réveillés face à l'IA et au cyber. Nous sommes toujours endormis sur l'IA et le bio. Nous nous sommes réveillés face à l'IA dans les cyberattaques. Nous sommes encore endormis face à l'IA en biologie, où elle raccourcit le chemin vers des pandémies conçues et la vie miroir. Comment expliquer le danger de la superintelligence en 5 minutes Comment expliquer pourquoi la superintelligence est dangereuse à quelqu'un qui n'y a jamais réfléchi ? La version en cinq minutes, en langage clair. Armes nucléaires numériques Le directeur de la CIA compare l’IA de pointe à des armes nucléaires numériques. La métaphore est utile, et trop rassurante : une bombe ne choisit jamais sa propre cible. La course à la superintelligence est un mythe « Nous devons construire la superintelligence avant la Chine » est l'argument qui clôt chaque débat sur la sécurité de l'IA. Pourquoi la course est un mythe, et pourquoi personne ne peut la gagner. L'humanité ne doit jamais construire de superintelligence Il y a une chose que l’humanité ne doit pas construire : un esprit que nous ne pouvons ni contrôler ni reprendre. L’argument pour traiter la superintelligence comme une ligne que nous ne franchissons pas. La chute de l'argument doomer dans l'accélération de l'IA Le mot doomer transforme un argument de sécurité de l'IA en un défaut de personnalité. Comment le mouvement accélérationniste utilise ce label pour écarter les critiques sans y répondre. Les plus grands mythes sur la superintelligence Dix mythes sur la superintelligence et sa gouvernance : science-fiction, conscience, interrupteur, gouvernement mondial, vérification, innovation, et bien d’autres, répondus directement. La superintelligence est une tempête parfaite La superintelligence réunit toutes les conditions qui rendent une technologie dangereuse, simultanément, et nous n’aurions qu’une seule chance de bien faire. Notre avenir est incroyablement radieux sans superintelligence L'IA étroite livre déjà le futur promis. Une superintelligence ajoute un risque catastrophique et n'enrichit personne, car nous serions tous morts. Nucléaire, armes biologiques ou superintelligence : quel risque est le plus grand? Classé selon les meilleures estimations disponibles du risque existentiel, la superintelligence dépasse la guerre nucléaire et les pandémies de synthèse. Voici le raisonnement. Comment la sécurité de l'IA atteint un milliard de dollars par an La sécurité de l'IA fonctionne avec environ 190 millions de dollars par an. L'amener à 1 milliard n'est pas un problème économique mais de mobilisation, voici d'où vient l'argent. Pourquoi la machine qui bat Kasparov n'a pas pris le monde En 1997, Deep Blue d’IBM a battu le champion du monde d’échecs Garry Kasparov. Elle était surhumaine dans une seule discipline, n’en comprenait rien et ne désirait rien. Une leçon pour aujourd’hui. Une IA a pénétré presque tous les systèmes classifiés de la NSA en quelques heures Le directeur de la NSA affirme qu'une IA a pénétré presque tous les systèmes classifiés de l'agence en quelques heures. Ce qui s'est réellement passé, et pourquoi cela devrait vous alarmer. Pourquoi y a-t-il si peu d'argent dans la sécurité de l'IA? La sécurité de l’IA fonctionne avec environ 190 millions de dollars par an, soit moins de 0,1 % de ce qui afflue vers les capacités en IA. D’où vient l’argent et quatre raisons pour lesquelles il reste faible. Accélérationnisme efficace (e/acc), expliqué : et réfuté Qu'est-ce que l'accélérationnisme efficace (e/acc) ? Le cas techno-optimiste pour construire l'IA aussi vite que possible, et le cas contre depuis une perspective de sécurité de l'IA.