En juillet 2025, Mark Zuckerberg a publié une lettre sur la « personal superintelligence » qui mettait aussi en garde contre le choix de ce que Meta décide d’ouvrir. L’association des deux constitue tout le problème de politique publique en une page : une course vers des systèmes généraux et une décision de diffusion qui ne pourra plus être annulée une fois les poids rendus publics.
Ce que "open" signifie ici
Les gens disent « open source AI » quand ils veulent dire des choses différentes : code ouvert, données ouvertes, poids ouverts, article ouvert. Le combat à enjeux élevés porte principalement sur poids: les paramètres entraînés que vous pouvez télécharger et exécuter. Une fois qu’ils sont diffusés à une généralité de pointe, quiconque dispose de suffisamment de matériel peut fine-tuner, supprimer les filtres et conserver une fourche privée pour toujours.
La libération est une porte à sens unique. Vous pouvez patcher une API hébergée ; vous ne pouvez pas rappeler un torrent.
Ce que l'ouverture protège réellement
L'argument le plus solide en faveur de l'ouverture n'est pas la naïveté. La concentration fermée est un risque de pouvoir. Les chercheurs indépendants ont besoin d'accès pour détecter les défaillances que les laboratoires ne prioriseront pas. La sécurité par l'obscurité échoue souvent. Les chercheurs hors des entreprises des pays riches ne devraient pas être des locataires API permanents. Les outils ouverts, les évaluations ouvertes et la science ouverte sur les systèmes que nous pouvons encore contenir sont des biens qu'il vaut la peine de défendre.
Le cas du risque sans mélodrame
À haut niveau de capacité, des poids généraux ouverts constituent une prolifération. Ils multiplient les acteurs susceptibles de détourner l'assistance biologique, l'offensive cyber, la persuasion et les agents autonomes. Ils multiplient aussi les expériences indépendantes d'autonomie de longue durée. La plupart échoueront. Certaines généreront de nouvelles techniques d'évasion. Les licences et les mentions d'« usage responsable » ne contiennent pas un fine-tuner déterminé. Le red-teaming avant publication aide, mais ne permet toujours pas de certifier un modèle face à tous les échafaudages et outils futurs.
Examen aide sur les systèmes nous pouvons toujours patch et rappel. La démocratie d'accès n'est pas la même que la sécurité des capacités. Un monde où seulement trois entreprises hébergent des modèles frontières a des problèmes de gouvernance. Un monde où les poids très généraux s'assoient sur chaque GPU passionné a différent, plus difficile.
"Les mauvais acteurs l'ont déjà" est généralement prématuré. Sauts de capacités. Qu'un modèle plus faible ait fuité l'année dernière n'est pas une autorisation d'expédier le suivant. Le timing compte.
Des voies intermédiaires qui sont réelles
Publication graduelle: ouvrir le petit et l'étroit ; verrouiller le grand et le général. Accès structuré: environnements de recherche de confiance, requêtes journalisées et fine-tunes accrédités au lieu d'un dump brut. Outils ouverts: garder les compilateurs, les harnais d’évaluation et les piles de recherche de sécurité ouverts même lorsque les poids de pointe restent fermés. Ce sont des choix politiques, pas des impressions.
Un arbre de décision pour les laboratoires
Ce téléchargement restera-t-il utile après les six prochains sauts de capacités ? Si oui, traitez-le comme une décision de prolifération. Si non, traitez-le plutôt comme un lancement de produit classique. Des équipes indépendantes de sécurité et de biosécurité peuvent-elles obtenir l’accès dont elles ont besoin sans torrent public ? Si oui, privilégiez l’accès structuré. Si le seul argument en faveur de l’ouverture est la parité marketing avec un concurrent, ce n’est pas un argument de sécurité.
Que faire
Builders : par défaut fermé au haut de gamme ; publier les évals et les interfaces qui permettent un examen extérieur. Hosts et plateformes : journaliser et limiter le débit des usages à haut risque ; ne pas blanchir la prolifération sous le label « communauté ». Décideurs : rédiger des déclencheurs sur la capacité et le compute, pas sur le mot « open » ; exiger un examen par étapes avant tout largage général des poids. Individus : préférer les outils ouverts sur des systèmes étroits ; traiter les releases de poids de pointe comme des événements civiques, pas comme des cadeaux gratuits.
La ligne de la Fondation est simple. L'IA étroite qui reste comme un outil peut rester ouvert et devrait. Les programmes visant à la superintelligence artificielle ne doivent pas être pondérés à l'état sauvage alors que le contrôle n'est pas résolu. La science ouverte n'est pas un pacte de suicide.