Ceci est la suite de Partie 1, Pourquoi y a-t-il si peu d'argent dans la sécurité de l'IA?, qui diagnostique pourquoi le domaine fonctionne avec si peu. Ici, la question est de savoir comment il atteint un milliard de dollars par an.
Commencez par là où tout se passe. Partie 1 additionne chaque subvention philanthropique, chaque programme de sécurité du gouvernement et chaque dollar que les laboratoires frontaliers dépensent pour leurs propres équipes de sécurité, et arrive à un total d'environ 190 millions de dollars par année. Contre cela, le monde met environ 1 billion de dollars par an pour rendre l'IA plus capable, et la figure continue d'escalader. Pour chaque millier de dollars dépensés pour rendre ces systèmes plus puissants, sous un dollar est dépensé pour les rendre sûrs.
Un milliard de dollars par an commencerait à changer cette arithmétique, et c'est une somme moins importante qu'il n'y paraît. C'est moins que deux jours de ce que l'industrie dépense déjà pour les capacités. C'est environ un dixième de un pour cent de ce que les États-Unis consacrent à la défense. C'est un dixième de ce que la philanthropie climatique mobilise chaque année, et la philanthropie climatique n'est pas considérée comme généreusement financée. Quoi qu'il en soit, un milliard de dollars n'est pas une grosse somme pour un problème que les personnes qui construisent la technologie ont comparé, par écrit et sous leur propre nom, aux pandémies et à la guerre nucléaire.
Si le domaine manque de fonds, ce n'est donc pas parce qu'un milliard de dollars est difficile à trouver. Le monde dépense déjà bien plus que cela à quelques mètres de là, de l'autre côté des mêmes immeubles de bureaux. L'argent est là. Ce qui manque, c'est la décision d'en déplacer une partie.
L’argent existe déjà. Le monde dépense cette somme pour rendre l’IA plus puissante environ tous les jours et demi. Ce qui manque, c’est la volonté d’en déplacer une fraction dans l’autre sens.
Un milliard est un plancher
Pourquoi un milliard, et non trois cents millions ? Parce qu’en dessous de ce seuil environ, le secteur ne peut faire qu’une chose à la fois. À 190 millions, les chiffres imposent un tri brutal. La recherche technique et les évaluations de modèles absorbent environ les deux tiers de l’ensemble. Le plaidoyer (le travail consistant à faire agir gouvernements et entreprises sur la base des résultats de la recherche) reçoit environ cinq pour cent, soit une dizaine de millions de dollars par an, moins que ce qu’une grande entreprise technologique dépense pour faire du lobbying dans une seule capitale nationale. Un milliard de dollars mettrait fin à ce tri. Il permettrait au domaine de la sécurité de payer les talents au niveau des laboratoires, de diversifier un secteur qui repose sur une seule fondation dominante et de financer le travail politique qui change les résultats plutôt que de se contenter de les documenter.
Et un milliard par an reste modeste au regard de toutes les comparaisons historiques qui s'y prêtent. Le projet du génome humain a coûté environ 3 milliards de dollars et reste considéré comme l'un des meilleurs investissements publics jamais réalisés par les États-Unis. Rapporté à un risque que ses propres créateurs classent au niveau de la guerre nucléaire, un milliard de dollars par an n'est pas une somme généreuse. Que nous débattions encore de son caractère abordable est la partie étrange.
L’éradication de la variole a coûté environ 300 millions de dollars sur les treize années de la campagne, soit moins du tiers d’une seule année de la cible évoquée ici. Depuis 1980, cette dépense unique a épargné au monde bien plus d’un milliard de dollars chaque année, et les États-Unis seuls récupèrent leur part du coût initial environ tous les vingt-six jours.
Réduire un risque à l’échelle d’une civilisation a presque toujours été l’une des choses les moins coûteuses que nous ayons jamais faites, mesuré par rapport à ce que cela rapporte.
D'où vient vraiment le milliard
Rien de tout cela ne nécessite une invention nouvelle ni un acte de générosité extraordinaire. Il suffit que quatre sources ordinaires s'activent en même temps. N'importe lesquelles de ces deux sources, menées sérieusement, suffisent à atteindre l'objectif.
| Source | Plausible par an |
|---|---|
| Philanthropie diversifiéeAujourd'hui, une seule fondation fournit plus de la moitié de l'argent philanthropique consacré à la sûreté. À titre de comparaison, la philanthropie climatique mobilise plus de 10 milliards de dollars par an auprès de nombreux donateurs. Une dotation unique de 20 milliards de dollars génère à elle seule un milliard de dollars par an grâce aux intérêts ; atteindre un dixième du total de la philanthropie climatique nécessite peut-être cinq à dix financeurs sérieux. | 300 millions de dollars |
| Budgets gouvernementaux de sécuritéDes instituts nationaux de sécurité existent déjà dans l'UK, l'US et ailleurs. L'US dépense environ 47 milliards de dollars par an pour les National Institutes of Health ; un effort dédié à la sécurité de l'IA à un pour cent de ce montant représente près d'un demi-milliard à lui seul. | 300 millions de dollars |
| Une taxe sectorielle sur la puissance de calculLes entreprises pharmaceutiques financent environ les trois quarts de l'examen des médicaments de la FDA par des frais d'utilisation; l'industrie nucléaire finance presque tous ses organismes de réglementation. Quatre dixièmes de 1 pour cent sur le calcul et l'infrastructure frontière AI achète déjà (environ 1 billion de dollars par an) élève le milliard entier par lui-même. | 300 millions de dollars + |
| Capital caritatif redirigéLes fonds conseillés aux donateurs détiennent déjà plus de 200 milliards de dollars engagés pour des œuvres caritatives mais non encore décaissés. Les dotations universitaires et l'infrastructure croissante du don efficace s'y ajoutent. La demande porte sur une réallocation, pas sur de nouvelles richesses. | 100 M$ |
| Total | ~1B+ |
La troisième ligne est celle qui compte le plus, car c'est la seule source qui ne repose sur la bonne volonté de personne. La philanthropie peut s'évaporer quand un donateur change d'avis, comme le domaine l'a appris lorsque son principal bailleur a réduit de plus de moitié les subventions à la sécurité technique en deux ans. Les budgets publics changent avec les élections. Une taxe légale sur l'industrie qui tire profit de la création du risque est durable, proportionnée et tout à fait précédée. C'est déjà ainsi que nous payons les organismes de surveillance qui veillent sur la médecine, l'aviation et le nucléaire. Lier une fraction du financement de la sécurité au calcul qui crée le danger est un prolongement naturel de l'argument en faveur de gouvernance du calcul.
L'argent bouge vite une fois que le risque est lisible
L’histoire est sans équivoque sur ce point. Quand un danger devient lisible pour le public et ses gouvernements, l’argent arrive à une vitesse qui révèle le mince filet actuel pour ce qu’il est : un choix, pas une contrainte. Les substances qui rongent la couche d’ozone ont été éliminées sous l’égide du Protocole de Montréal, dont le fonds a depuis déplacé des milliards de dollars pour rendre possible la transition dans les pays pauvres. Quand la COVID est arrivée, le monde a lancé un développement de vaccins mesuré en dizaines de milliards de dollars en quelques mois. Variole, ozone, polio : dans chaque cas, la contrainte n’a jamais été l’argent. C’était la reconnaissance.
La sécurité de l'IA n'a pas encore eu son moment de reconnaissance, et la raison en est structurelle plutôt que financière. Le dommage qu'elle annonce ne s'est pas produit. Il n'y a ni patients, ni villes inondées, ni familles endeuillées pour lui donner un visage, et si le travail réussit, il n'y en aura jamais. Un risque sans électorat n'a personne pour faire pression sur ceux qui signent les chèques. Un meilleur tableur ne résoudra pas le problème.
C'est un problème de mobilisation
Ce qui signifie que le chemin vers un milliard de dollars n'est pas, au fond, un plan de collecte de fonds. C'est un plan pour rendre le risque assez lisible, et le prendre au sérieux assez prestigieux, pour que l'argent suive comme toujours. Ce travail s'articule autour de trois axes.
Rendez-le visible. Une menace que les gens peuvent se représenter est une menace qu’ils financeront : journalisme, films, données et argumentaire public qui transforment une probabilité abstraite en quelque chose qu’un législateur ou un donateur peut ressentir, le même travail culturel qui a précédé les financements sérieux pour le climat et le contrôle des armements nucléaires.
Rendez-le prestigieux. Quand des lauréats du prix Nobel, d'anciens chefs d'État et des figures publiques de confiance traitent une cause comme sérieuse, les normes et les financements bougent derrière eux. Le consensus scientifique sur le risque lié à l'IA existe déjà. Ce qui a pris du retard, c'est la permission sociale pour les personnes de moyens et d'influence d'agir ouvertement.
Rendez-le obligatoire. Le don volontaire, poussé fort, pourrait porter le champ à trois ou quatre cents millions par an. L'étendue à un milliard entier (et, plus encore, sa survie après le changement de cœur d'un seul donateur) vient de la loi : un prélèvement, une ligne, une obligation conventionnelle. La Fondation vise ses travaux à règles contraignantes et pas seulement à la persuasion. La générosité est bienvenue, mais ce n'est pas quelque chose sur quoi on peut compter.
Oublions donc l'idée qu'un milliard de dollars par an représenterait la version ambitieuse d'une prise au sérieux du sujet. C'est la version minimale. C'est moins que deux jours de ce que nous dépensons déjà pour aggraver le problème, et une infime fraction de ce qu'il a coûté, une seule fois, pour débarrasser le monde d'une maladie qui avait tué pendant trois mille ans. La somme n'est pas insurmontable. Ce qui manque vraiment, c'est la décision de traiter un risque de cette ampleur comme si nous croyions à nos propres avertissements.
Cette décision est prise dans pression publique, dans ce que les gouvernements entendent des gens auxquels ils répondent, et dans si assez d'entre nous traitent cela comme la priorité que la science dit qu'il est.
Mais comparez ce chiffre à ce que le monde dépense déjà pour construire la technologie, ou à ce que l’humanité a investi par le passé face à des dangers qu’elle a décidé de prendre au sérieux, et un milliard cesse de paraître ambitieux. Il commence à ressembler au minimum que nous puissions faire, et il est tout à fait à notre portée.