Le 22 octobre 2025, le Future of Life Institute a publié une lettre publique intitulée Déclaration sur la superintelligence. Contrairement aux manifestes tentaculaires qui accompagnent habituellement des moments comme celui-ci, toute la lettre est celle-ci:

Nous appelons à une interdiction du développement de la superintelligence, non levée avant qu'un large consensus scientifique établisse qu'elle pourra être réalisée de manière sûre et contrôlée, et qu'un fort soutien public soit acquis.

Déclaration sur la superintelligence, Future of Life Institute · Octobre 2025

Cela ne dit pas que la superintelligence ne doit jamais être construite. Cela ne condamne pas l’IA en soi. Cela pose une condition (deux conditions, en fait) et demande que le développement s’arrête jusqu’à ce qu’elles soient satisfaites. Pour comprendre pourquoi cette requête qui semble modeste représente un véritable tournant dans le débat, il faut comprendre à la fois ce qu’elle exige et qui a accepté d’y apposer son nom.

Ce que l'affirmation demande réellement

La formulation est précise. Trois caractéristiques la distinguent des lettres ouvertes antérieures, y compris la célèbre lettre de 2023 appelant à une pause de six mois sur les plus grands entraînements.

  • Il cible spécifiquement la superintelligence. Pas l'IA étroite, pas les chatbots, pas les outils d'IA déjà tissés dans la vie quotidienne. L'interdiction s'applique systèmes qui dépasseraient la capacité humaine dans presque tous les domaines cognitifs. Cette précision éclipse l'objection habituelle que les défenseurs de la sécurité veulent arrêter la technologie bénéfique. Ils veulent arrêter une frontière spécifique et particulièrement dangereuse.
  • C’est une interdiction conditionnelle, pas un bannissement permanent. L'interdiction lève le moment où deux seuils sont franchis. La valeur par défaut aujourd'hui est : construire la superintelligence, et établir la sécurité après si possible. La déclaration l'invertit: établir la sécurité d'abord, puis construire. La charge de la preuve passe sur les développeurs, où (pour une technologie de cette conséquence) il appartient sans doute.
  • Cela nécessite l'adhésion du public, pas seulement l'approbation des experts. La seconde condition est démocratique, pas technique. Même si les scientifiques finissent par s'accorder un jour sur le fait que la superintelligence peut être contrôlée, l'énoncé insiste sur le fait que le public doit consentir à sa construction. C'est un défi direct à l'arrangement actuel, dans lequel une poignée de laboratoires privés prennent une décision qui bouleverse la civilisation au nom de tous, la préoccupation que nous examinons dans qui contrôle la superintelligence.

Pourquoi les signataires comptent-ils plus que le libellé

Les lettres ouvertes sont bon marché. Ce qui a fait de cette seule terre était la coalition. Plus de 850 personnes ont signé au lancement, et la liste est remarquable non pour sa longueur mais pour sa portée. Le compte public a depuis passé 70 000.

Au sommet se trouvaient les scientifiques qui ont construit le domaine. Yoshua Bengio et Geoffrey Hinton (tous deux lauréats du prix Turing, tous deux régulièrement appelés parrains de l'IA moderne) ont signé, tout comme ceux de Berkeley Stuart Russell, auteur du manuel de référence sur l'IA. Quand les personnes les plus responsables de l'existence d'une technologie demandent au monde d'arrêter avant d'en construire la forme la plus puissante, c'est un témoignage, pas de l'activisme.

Alors vinrent les constructeurs et les figures publiques. Cofondateur d'Apple Steve Wozniak et le fondateur de Virgin Richard Branson. Historien Yuval Noah Harari, acteur Stephen Fry, et musicien will.i.am. Des dirigeants retraités de la sécurité nationale, dont l'ancien président des chefs d'état-major interarmées Admiral Mike Mullen et ancien conseiller à la sécurité nationale Susan Rice. Et, plus révélateur encore, des figures qui ne sont d'accord sur presque rien d'autre: Le prince Harry et Meghan aux côtés Steve Bannon et Glenn Beck.

Ce dernier détail est tout l'argument en miniature. Quand un couple royal britannique et un stratège médiatique MAGA mettent leurs noms sur la même déclaration, la question a échappé au tri idéologique habituel. L'inquiétude à l'égard de la superintelligence est l'une des rares positions qui ont disparu en 2025-2026 avec une véritable portée partisane, qui est exactement le genre de coalition qui rend possible une politique contraignante, pas à gauche ou à droite, pas à l'établissement ou au populiste.

Ce qu'est la déclaration, et ce qu'elle n'est pas

Il importe de garder les yeux grands ouverts sur ses limites. Une déclaration publique n’interdit rien. Elle ne donne d’ordre à aucun régulateur, n’engage aucune entreprise et ne contraint aucun gouvernement. Quiconque y verrait une loi se tromperait.

Ce qu'il fait, c'est déplacer le Fenêtre d'Overton, l’éventail des positions jugées mainstream et exprimables. Il y a deux ans, réclamer l’interdiction d’une catégorie d’IA aurait été balayé comme une idée marginale. Après octobre 2025, c’est une position assumée publiquement par des scientifiques de niveau Nobel, des entrepreneurs iconiques et des figures politiques de tout l’échiquier. Ce changement dans ce qu’il est respectable de dire est la condition préalable à tout ce qui suit. Les politiques adoptent des positions déjà populaires ; ils mènent rarement. La fonction de la déclaration est de rendre l’interdiction assez populaire pour que les dirigeants puissent agir.

C’est précisément ainsi que les mouvements antérieurs de gouvernance technologique ont commencé. Le Conférences Pugwash Il a consacré deux décennies à l ' établissement d ' un consensus intellectuel et moral qui, à terme, a sous-estimé la maîtrise des armes nucléaires. Les déclarations et les déclarations sont la façon dont la piste se construit, et non la ligne d'arrivée.

D'une déclaration à un traité

L’écart entre la déclaration et la réalité est précisément celui que Fondation Nakada cherche à combler. Une déclaration établit que l’interdiction est souhaitable et légitime. Elle n’établit pas les mécanismes pour la faire respecter. Il faut pour cela trois choses que le texte laisse délibérément de côté:

La Déclaration sur la superintelligence a prouvé quelque chose de précieux : la volonté existe, et elle traverse toutes les lignes qui divisent habituellement les gens. Notre plan Il s'agit de transformer cette volonté en contrôle de calcul, en organisme de surveillance et en traité international qui donnerait à la déclaration la force dont elle a besoin. Si vous êtes d'accord, la chose la plus utile que vous pouvez faire ensuite est d'aider à construire la coalition qui la transforme en politique.