Arrêter la superintelligence ne signifie pas détruire toutes les puces ni mettre fin à l'apprentissage automatique. Cela signifie une interdiction légale et pratique du développement de la superintelligence artificielle. La superintelligence ne peut pas être contrôlée par les humains. Il s'agit d'un interdit permanent, pas d'une pause temporaire qui expirerait pour relancer la même course.
Ce qui doit s'arrêter vs ce qui doit continuer
L'IA étroite qui replie des protéines, lit des scanners, optimise la logistique et reste dans des domaines bornés doit continuer. La cible est la superintelligence générale, auto-améliorante et récursive, et les programmes qui visent à l'atteindre, filtrés par seuils de calcul, tests de capacités et règles de recherche. Les critiques qui disent « ils veulent interdire l'IA » vendent une caricature qui protège la course.
Pourquoi les promesses des labs ne suffisent pas
Politiques d ' échelle responsable et les annonces de contributions multiples peuvent révéler l'intention. Ils échouent en tant que système de contrôle primaire. La même firme écrit la politique, exécute les tests, juge les résultats, et les profits de l'expédition. Dans le cadre de la concurrence, les règles internes fléchissent, de sorte que le droit extérieur doit fournir la morsure.
L'échelle d'application
Imaginez une échelle sur une falaise.
Volonté du public à la base : des personnes qui peuvent nommer la demande et punir les dirigeants qui ne proposent qu’un théâtre d’innovation.
Droit national et agences: octroi de licences pour les grands entraînements, exposition pénale et civile pour le développement conscient de superintelligence, organismes d'évaluation avec un accès réel, protection des lanceurs d'alerte.
Puces et nuages: contrôles d'exportation, cluster know-Your-client, puissance et visibilité data-center. Le matériel est physique. C'est une caractéristique de la gouvernance.
Traité de coalition: un ensemble central d'États couvrant la plupart des capacités frontalières, avec des annexes numériques, pas seulement des principes. La méfiance est normale; la vérification existe de sorte que les parties ne doivent pas compter sur l'amitié.
Institution de vérification: inspecteurs, calendriers de FLOP, signalement d'incidents, autorité pour déclencher des conséquences. Pensez à une capacité de type IAEA pour les centres de données et l'entraînement, pas à un forum de discussion.
Condition d'interdiction permanente: ne rouvrir que lorsque la science indépendante et le public auront franchi un seuil élevé sous des institutions non capturées par les laboratoires.
Chaque échelon soutient le suivant. Des sommets sans règles de calcul, ou des règles de calcul sans volonté publique, laissent l'ascension inachevée.
La politique intérieure constitue la moitié du problème
Aux États-Unis, le beau texte de Genève ne se lie pas sans une voie à travers le Sénat ou par des statuts et des accords d'exécution du congrès qui peuvent passer. Concevoir l'instrument réglé en arrière à partir de votes que vous pouvez gagner. D'autres pays ont leurs propres pièges de ratification. Sautez le design domestique et vous obtenez des communiqués de presse.
La Chine, les rivaux et l'excuse de la course
L'excuse dominante pour une échelle illimitée est : si nous ralentissons, ils ne le feront pas. La vulnérabilité partagée réduit les deux façons. Une superintelligence incontrôlable est un moyen de perdre le pays tout en saluant le drapeau, pas un atout national. La vérification, le déni matériel et l'exposition mutuelle des programmes de cassure existent pour les rivaux qui ne se font pas confiance.
Poids ouverts
Les poids généraux ouverts haut de gamme ne créent une voie de prolifération que partiellement. Une fois que les poids sont publics, il n'y a pas de rappel central. Traiter les rejets généraux haut de gamme comme des décisions de prolifération, et non comme des lancements de produits ordinaires.
Ce que vous pouvez faire
Adaptez l'action à votre portée.
Électeurs: contactez les représentants avec une demande d'interdiction contraignante, pas un vague "soyez prudents." Membres du personnel: rédiger des projets de loi sur les licences et les évaluations avec des déclencheurs numériques. Donateurs: finance le plaidoyer qui fait bouger les votes et le texte du traité. Scientifiques: soutenir l'interdiction permanente et aider à concevoir la vérification. Employés du labo: use lawful reporting channels when internal safety is overridden. Role-specific force beats generic anxiety.
La plupart de l'argent et du prestige vont encore à rendre la course plus sûre, pas à mettre fin à la course vers l'superintelligence. Les dons qui font grandir l'arrêt sont encore rares.
À quoi ressemble le succès
Dans deux ans : des lois contraignantes dans plusieurs juridictions, un meilleur suivi des utilisations finales des puces, un texte de négociation sérieux avec des chiffres, un soutien public durable à une interdiction contraignante. Dans cinq à dix ans : une licence de calcul couvrant la majeure partie des capacités de pointe, des inspections opérationnelles, une coalition qui encadre l’entraînement et une culture où toute évasion devient coûteuse et visible. Les communiqués de sommet ne suffisent pas.
Modes d'échec
Veillez à la redéfinition ("assistance avancée" au lieu de l'superintelligence), à la saisie des évaluateurs, aux traités symboliques sans vérification et à l'attente d'un "alignement résolu" comme permis de construire. La défaite sans frais. Nommez-les pour que vous puissiez mettre des rails sur la montée.
Conception de traité sans texte sacré
Il n’existe pas de projet sacré unique. Il existe des familles de conceptions. Une coalition centrale couvrant la majeure partie de la capacité de pointe peut avancer avant l’adhésion universelle. Le séquençage cadre puis annexes (principes d’abord, calendriers numériques qui s’actualisent) s’inspire des régimes environnementaux et de désarmement réussis. Des mesures commerciales contre les non-parties modifient le calcul de l’opt-out. Un fonds multilatéral ou un accord d’accès à la technologie peut rallier les États qui craignent d’être exclus de l’IA étroite. Le projet de type MIRI est une proposition entièrement spécifiée ; NPT, Montréal et le droit des armes chimiques constituent l’étagère des précédents. Choisissez des structures que vous pouvez vérifier, pas de la poésie que vous ne pouvez que louer.
Recherche près de la ligne
Le problème de rédaction le plus ardu concerne les travaux qui jouxtent l'interdiction : systèmes agentiques, assistants de recherche en IA automatisés, auto-jeu à grande échelle. Interdire la voie claire vers superintelligence. Autoriser et inspecter la zone grise. Ne pas prétendre que chaque article est une bombe, et ne pas prétendre que la recherche automatisée en IA est une science ordinaire quand elle raccourcit le chemin vers des systèmes que personne ne peut révoquer.
Justice et qui paie
Les règles de calcul toucheront les entreprises et les pays de manière inégale, car la base industrielle est inégale. Un régime équitable associe des restrictions au sommet de l'échelle des capacités à un accès continu aux outils étroits bénéfiques, et n'utilise pas la « sécurité » comme prétexte à des systèmes de castes technologiques permanents. L'objectif est la survie partagée, pas un monopole du progrès.
Répondre à deux lignes dures
"Nous allons perdre l'économie." Certains capitaux se réalloueront. Certains récits boursiers se contracteront. Ces coûts sont visibles lors des appels trimestriels. L'extinction et la dépossession permanente n'apparaissent pas comme une ligne comptable. Les coûts visibles ne remportent pas automatiquement l'argument quand l'alternative est civilisationnelle.
« Quelqu'un finira toujours par faire défection. » La défaite est une entrée de conception. La vérification, le déni matériel, les sanctions et l'exposition mutuelle des programmes de cassure existent pour changer le rendement. La conformité parfaite n'est pas la norme; augmenter le coût de la tricherie est.
L'échelle à nouveau
Les échelons sont la volonté publique, la loi, les puces, un traité, les inspecteurs et l'interdiction permanente. L'escalade signifie installer des échelons dans l'ordre et refuser de prétendre qu'un mur peint est une échelle. Les documents, les étouffements industriels et les précédents juridiques existent déjà. La force appartient au prochain échelon que vous pouvez réellement atteindre. La ligne fondatrice est plus simple : ne pas construire de superintelligence. La superintelligence ne peut pas être contrôlée.