En 1946, les États-Unis étaient le seul pays à posséder des armes nucléaires, et pendant un temps il a semblé possible que personne d’autre n’ait jamais besoin d’en construire. En juin, le financier américain Bernard Baruch a présenté un plan à la toute nouvelle Organisation des Nations unies. L’énergie atomique, dans toutes ses formes dangereuses, serait placée sous une autorité internationale. Cet organe contrôlerait l’extraction, les matières et la technologie dans le monde entier, inspecterait les violations et veillerait à ce que la science soit utilisée pour produire de l’énergie et non des bombes. Une fois le système en place, les États-Unis renonceraient à leur arsenal atomique.

C'était, sur le papier, une offre extraordinaire : la seule puissance nucléaire proposant de renoncer à son monopole au profit d'un contrôle international plutôt que de l'exploiter. Cela a échoué. En quelques années, l'Union soviétique avait la bombe, et la course aux armements que le plan était censé prévenir a duré les quatre décennies suivantes et ne s'est jamais vraiment terminée.

Pourquoi il s'est effondré

L’échec n’était pas dû au fait que personne ne s’en souciait. Il tenait aux conditions que la gouvernance d’une technologie stratégique doit satisfaire, conditions que le plan Baruch ne pouvait pas remplir.

  • Confiance et séquençage. Le plan exigeait que l'Union soviétique accepte une inspection internationale intrusive et renonce d'abord à son propre programme d'armes, tandis que les États-Unis gardaient leurs bombes jusqu'à ce que le système soit pleinement opérationnel. Moscou, sans surprise, n'accepta pas un schéma qui verrouillait l'avantage américain pendant la transition.
  • Application et le veto. Le plan propose de supprimer le veto de grande puissance pour les questions atomiques, de sorte que les violations puissent être punies. L'Union soviétique, peu disposée à se faire surpasser par sa propre sécurité, a refusé. Application effective et souveraineté nationale En collision.
  • La course avait déjà commencé. Même alors que le plan était débattu, les deux puissances poursuivaient la capacité sous-jacente. La gouvernance courait après une compétition déjà en cours.

Les parallèles avec l'IA, exposés avec soin

La ressemblance est gênante. Une technologie transformatrice et dangereuse arrive. Pendant une brève période, le nombre d’acteurs est faible et la situation est, en principe, encore gouvernable. Une proposition existe pour placer la technologie sous contrôle collectif avant qu’une course sans frein ne la verrouille. Et l’effort se heurte à la méfiance mutuelle, à la difficulté d’une application vérifiée et à une course déjà en cours. Remplacez « atomique » par « IA » et la forme est familière, c’est pourquoi le plan Baruch hante les discussions sérieuses sur la gouvernance de l’superintelligence.

Le plan Baruch est l'histoire d'une fenêtre qui s'est ouverte, brièvement, puis qui ne l'était plus. La leçon porte sur le timing.

Deux leçons, pas une

La lecture facile, c'est le désespoir : le contrôle international d'une technologie stratégique a été tenté au meilleur moment possible et a échoué, alors pourquoi espérer mieux pour l'IA. Cette lecture est incomplète.

La première vraie leçon porte sur la fenêtre d'opportunité. Le plan Baruch a échoué en partie parce qu'il est arrivé un peu trop tard, après que la méfiance se soit durcie et que les deux camps se soient engagés dans la course. La fenêtre pour gouverner une technologie est la plus large avant que la compétition ne s'installe, puis elle se referme. Pour l'IA, cette fenêtre est maintenant, pas après que la course se soit pleinement engagée, ce qui explique l'urgence de tout ce que fait la Fondation.

La deuxième leçon porte sur la conception. Le plan Baruch a échoué sur la vérification et l'application, sur l'impossibilité, en 1946, de faire confiance à la conformité sans moyen de la vérifier. C'est précisément le problème que les outils modernes, de régimes de vérification à la surveillance basée sur le matériel, existent à résoudre, et c'est pourquoi les traités de contrôle des armements ultérieurs qui sont venus après l'échec du plan Baruch ont réussi là où il ne pouvait pas. Le plan n'a pas prouvé que la gouvernance était impossible. Il a montré quels problèmes doivent être résolus et qu'ils doivent être résolus rapidement.