Ressources et téléchargements AI Safety, Matériel de prévention superintelligence prêt à l'emploi.

Les scientifiques qui ont construit l'IA en ont peur. Geoffrey Hinton a quitté le site pour nous avertir. Yoshua Bengio l'a appelé « la technologie la plus transformatrice et potentiellement dangereuse de l'histoire humaine ». Voilà le consensus scientifique. nakadafoundation.org/the-treat/

Il n’y a pas de retour en arrière possible pour la superintelligence. Pas de correctif. Pas de version 2. Une superintelligence mal alignée qui agit contre la survie humaine ne peut pas être corrigée après coup. Il faut réussir avant qu’elle n’arrive, pas après. C’est pourquoi la sécurité de l’IA est urgente. nakadafoundation.org

Nous avons construit des armes nucléaires puis créé un traité mondial de non-prolifération. Nous avons détruit la couche d'ozone puis interdit les CFC. Nous pouvons agir face aux menaces existentielles, mais seulement quand suffisamment de personnes l'exigent. La sécurité de l'IA est le moment décisif de cette génération. nakadafoundation.org/precedent/

Les laboratoires d'IA se livrent à une course pour construire quelque chose qui pourrait surpasser l'intelligence humaine, sans aucune gouvernance mondiale en place. La fenêtre d'action se referme. Partagez ce message. Contactez votre représentant. La fenêtre politique est ouverte maintenant ; elle ne le restera pas éternellement. nakadafoundation.org/take-action/

Je veux partager quelque chose qui a changé la façon dont je pense à l'avenir. Les scientifiques qui construisent l'IA ont peur. Geoffrey Hinton (qui a remporté le prix Nobel pour son travail sur les réseaux neuraux) a laissé spécifiquement pour avertir le public. Yoshua Bengio, un autre lauréat du prix Nobel et l'un des pères fondateurs de l'IA, a dit qu'il « se sentait perdu » sur la façon de faire avancer les choses. Ce sont les gens qui ont construit cette technologie. Nous approchons d'un moment où les systèmes d'intelligence artificielle peuvent dépasser l'intelligence humaine dans tous les domaines, et il n'existe pas de cadre de gouvernance internationale pour ce qui se passe ensuite. Pas de traité. Aucun organisme de vérification. Rien d'équivalent à ce que nous avons construit pour les armes nucléaires. La Fondation Nakada pour sauver l'humanité travaille à changer cela. En savoir plus sur nakadafoundation.org #AISafety #ExistentialRisk #AIGovernance #Superintelligence

Une expérience de pensée pour quiconque dans la technologie, la politique ou la finance: Imaginez un système plus intelligent que tout homme qui a jamais vécu, qui dirige des milliers d'instances simultanées, capable d'améliorer son propre code, poursuivant des objectifs que nous n'avons peut-être pas voulu. C'est ce que les laboratoires d'IA de premier plan s'orientent explicitement vers, avec des délais mesurés en années plutôt que des décennies. La question en direct est de savoir si nous aurons une gouvernance en place quand elle le fera. La Fondation Nakada préconise une coordination internationale sur la sûreté de l'IA, l'équivalent de ce que nous avons construit pour les armes nucléaires et les agents biologiques. Ces précédents existent. Nous savons comment faire. Nous avons besoin de la volonté politique. nakadafoundation.org/notre plan/ #Politique de l'AI #Techéthique #AIRisk #Future OfWork

Subject: Agissez pour interdire l’intelligence artificielle superintelligente Cher [Nom du représentant], Je suis un électeur et je vous écris pour vous exhorter à agir sur l’intelligence artificielle superintelligente avant que la course ne devienne irréversible. La superintelligence ne peut pas être contrôlée par les humains. Le seul contrôle fiable est la décision de ne pas la construire. Les scientifiques qui ont créé l’IA nous alertent. Geoffrey Hinton et Yoshua Bengio (lauréats du prix Nobel à l’origine des fondements de l’IA moderne) ont déclaré publiquement que l’IA superintelligente représente un risque existentiel pour l’humanité. Sam Altman, PDG de OpenAI, a signé des déclarations reconnaissant le danger de la technologie que son propre entreprise développe. Aujourd’hui, aucune loi n’interdit de construire une intelligence artificielle superintelligente. Aucun traité. Aucun organisme de vérification. Les laboratoires courent vers un esprit que personne ne pourra contrôler, sans le type de réglementation que nous appliquons déjà aux armes nucléaires et aux agents chimiques. Je vous demande de : • Soutenir une interdiction légale permanente du développement de l’intelligence artificielle superintelligente • Défendre un traité international contraignant qui prohibe superintelligence, avec inspections et vérification • Donner à l’État l’autorité sur les plus gros entraînements et sur les puces spécialisées qu’ils utilisent Nous avons déjà agi face à des menaces existentielles. Le Traité de non-prolifération nucléaire. Le Protocole de Montréal. Ce moment exige le même courage politique. Cordialement, [Votre nom] [Votre ville, État] --- En savoir plus : nakadafoundation.org