Quelqu'un interdit-il superintelligence?
Traités, lois, instituts et engagements sur l'superintelligence, classés par juridiction : ce qui est en vigueur, ce qui est volontaire et si l'un d'entre eux interdit la construction d'une superintelligence.
L'argument le plus courant contre le ralentissement est: « Peu importe ce que nous faisons, la Chine va prendre de l'avance. » Le dossier complique cette histoire. La Chine a publié des règles contraignantes sur les algorithmes de recommandation, les deepfakes et l'IA générative avant la plupart des gouvernements occidentaux, a publié un cadre national de gouvernance de la sécurité de l'IA, et ses scientifiques ont signé des déclarations internationales appelant à des « lignes rouges » en matière d'IA.
Les règles chinoises n'interdisent pas déjà l'superintelligence. La prémisse que La Chine ne s'intéresse à aucune règle est empiriquement faible, et une faible prémisse est une mauvaise raison de race. Filtre vers la Chine ci-dessus pour voir le disque.
Voici une liste choisie des jalons les plus significatifs de la gouvernance superintelligence, et non une base de données juridique exhaustive. L’objectif de cette liste est de montrer combien d’activités laissent encore non réglementé l’acte central : la construction d’une superintelligence.
La gouvernance évolue vite, si vous repérez quelque chose que nous avons manqué ou qui doit être mis à jour, dites-nous.