国際的な人工超知能統治に対する主権論は、どの技術を自国が開発・展開できるかを決めるのは、国内の決定であり、自国民に責任を負う国家政府が行うというものだ。AI開発を制限する拘束力のある国際条約は、それらの決定に対する実効的な権限を国際機関または他国の拒否権に移す。これは主権を侵害する。この主張はAI論争に特有のもののように語られるが、そうではない。核拡散防止条約、化学兵器禁止条約、モントリオール議定書、そして危険な技術に対する国家の行動の自由を制約するその他の主要な国際条約に対しても、まったく同じ主張がなされてきた。いずれの場合も、この主張は最終的に克服された。その経緯を理解することは有用である。.

核拡散防止条約は1968年に62カ国が署名した。経緯とAIへの意味はこうだ。.

主権論が実際に主張していること

この議論は軍事技術に適用したときに最も強力です。現実の安全保障上の脅威に直面する国々は、自国の軍事能力に対する行動の自由を維持する具体的な利益を持っています。軍事分野でのAI開発に対する国際的な制限にそれらの国々を縛るには、敵対国が受け入れないかもしれない制約を受け入れる必要があり、その領域では能力が国家存続に直結します。これが主権に関する異論の最も厳しいバージョンであり、冷戦を通じて核保有国がとった立場と重なります。.

この主張は民生用AI開発に適用するとかなり弱まります。自国の安全保障が、非監視の商用AI訓練に依存することはありません。大規模な民生用AI開発プログラムを申告・監視する主権コストは低いです。主権論の政治的利用は、本当に正当な懸念がある場合をはるかに超えて広がっています。.

条約設計において事例を分けることは重要です。主権上の懸念が現実となる特定の活動——文明規模の影響をもたらし得る大規模AI開発プログラム——に焦点を当てたガバナンス枠組みであれば、民間および商用AIにほとんど手を加えずに済むよう設計でき、反対意見の強さを大幅に弱められます。.

核主権論争がどのように解決されたか

核拡散防止条約は主権に関する異論を排除しなかった。むしろそれを再定義した。条約は主権国家の選択を形式化する枠組みを作った。各国は参加して安全保障義務を受け入れるか、条約の外に留まって政治的・経済的な不利益を被るかを選べる。核保有五カ国は核拡散防止と軍縮義務を受け入れる代わりに核保有を認められた。非核保有国は民生用原子力プログラムの監視を受け入れる代わりに、平和利用技術へのアクセスと安全保障の保証を得た。.

これを機能させた仕組みは、主権が形式上は維持されつつ、実質的に大幅に制約されたことだった。核拡散防止条約署名国は原則として条約から脱退可能で、第X条は90日前の通知で脱退を認め、北朝鮮が2003年に行使した。しかし脱退の政治的・経済的コストは大きい。主権論は、各国が自国の核選択に外部からの制約を受け入れられないと主張した。核拡散防止条約は、その選択を形式的かつ可視的にしつつ、誤った選択のコストを十分に高くすることで、ほぼすべての国が参加する方が望ましいと結論づけるようにした。.

その結果生まれた条約は今日191カ国が締約国となっている。核兵器を保有するのは9カ国のみだ。インド、パキスタン、イスラエルの3カ国だけが一度も加盟していない。北朝鮮は脱退し、現在兵器を保有している。1960年代初頭にいかなる拘束力ある核ガバナンスも阻止するのに十分強力と思われた主権論は、191の政府が自国の原子力計画に対する拘束力ある監視義務を受け入れる世界を生み出した。.

化学兵器に関する主権論争がどのように決着したか

化学兵器禁止条約（1993年）は異なるモデルを示しています。核保有国と非保有国という公式の二重構造を生む核拡散防止条約とは異なり、CWCは交渉に参加した主要国を含むすべての国に化学兵器を禁止します。世界最大の化学兵器備蓄を抱えていた米国とソ連は、国際監視の下で申告・廃棄するという拘束力のある義務を受け入れました。.

CWCにおける主権の調整とは、国民の化学産業が民生目的で操業を続ける権利を、監視を条件に認めることだ。各国は化学産業を維持できる。化学兵器は維持できない。化学兵器禁止機関は申告施設を査察し、違反の申し立てを調査する。各国は自国の民生化学部門に対する主権を保持しつつ、その部門の特定用途に関する主権を放棄している。.

このモデルは核拡散防止条約モデルよりもAIに適用しやすいかもしれない。なぜならAI開発は主に民間かつデュアルユースだからだ。指定された能力またはコンピュート閾値を超える最も有能なフロンティアAIシステムの開発を制限し、商業・消費者向けAIは完全に規制対象外とする条約は、核拡散防止条約の論理ではなくCWCの論理に従うことになる。この種の条約の主権コストは核拡散防止条約より低く、条約署名時点で誰が何を持っていたかに基づく恒久的な能力の階層を作らないからだ。.

オゾン層モデルと科学的コンセンサス

オゾン層を破壊する物質に関するモントリオール議定書（1987年）は、異なる仕組みで主権の異議を克服しました。科学的合意が不参加を政治的に持続不可能にしたのです。クロロフルオロカーボンがオゾン層に測定可能な損害を与えていること、そしてオゾン層破壊が地球上のすべての国に測定可能な害をもたらすことが明らかになると、議定書への参加に反対する主権論は国内政治で維持しにくくなりました。CFC規制を避けるために主権を主張した政府は、紫外線による自国民への害という結果を招く場合、どのような主権を守っているのかを問われることになりました。.

モントリオール議定書には技術移転の仕組みも含まれていた。CFCの段階的廃止に伴う経済的負担を負う途上国に対し、遵守を容易にするための財政的・技術的支援が提供された。これは、国際環境協定が途上国に富裕国が引き起こした問題の費用を負担させるという主権論の一形態に対応したものだ。2009年までにモントリオール議定書は普遍的な批准を達成し、197の締約国、すべてのUN加盟国となった。.

AIとの類推は不完全です。AIの存在リスクに関する科学的コンセンサスは、1987年時点のオゾン層科学ほど統一されていません。しかしモントリオール議定書のモデルは、AIリスクに関するより明確で公的な専門家コンセンサスが、主権論の政治的力学を大きく変え得ることを示唆しています。リスクがより具体的に理解されるほど、主権論は持続しにくくなります。.

本当に難しいままのもの

主権に関する異議は、政府が不便な義務を避けるための言い訳に過ぎないわけではない。それは実際の政治的制約を反映している。政府は国内の支持者たちに答える立場にあり、彼らは自国が国家的能力と行動の自由を維持することを期待している。ライバル国が受け入れていない制約を自国に課す条約は、1979年にソ連がアフガニスタンに介入した後、すでに署名済みの条約を上院が批准しなかったSALT II条約のように、持続的な国内反対に直面する。.

AIの場合、最も厳しい制約はUS・中国関係にある。米国を拘束するが中国を拘束しない、または中国が意味のある執行なしに批准する人工超知能ガバナンス条約は、一方的な制約として機能する。この懸念は主権の名の下に頻繁に提起されるが、より正確には参加の問題である。主権の異論は条約設計で対処可能だ。参加の問題は外交によってのみ解決でき、USと中国の双方が拘束力のある枠組みに参加する方が外に留まるより望ましいと結論づける条件を作ることである。.

軍備管理に反対する主権論は、歴史上のすべての主要条約の前に唱えられてきた。それは決して最後の言葉ではなかった。.

歴史は、人工超知能ガバナンスに対する主権論が、回避策を講じるべき現実の政治的制約であって、根本的な障壁ではないことを示唆している。成功した条約の枠組みは、主権選択の形式を維持しつつ、誤った選択のコストを十分に高くすることで成り立ってきた。同じアプローチは人工超知能ガバナンスにも可能である。課題は、政府が参加こそが正しい選択だと結論づける政治的条件を整えることであり、それは公衆の理解、科学的合意、継続的な外交努力の問題であって、拘束力のある国際ガバナンスが主権と両立するかどうかの問題ではない。.