グローバルサウスが
国際的な要望
人工超知能 ガバナンス.

二〇二三年に開催されたブレッチリーAI安全サミットがフロンティアAIリスクに関する共同宣言で閉幕した際、二十八カ国が署名した。署名国に含まれなかったのは、インド、ブラジル、インドネシア、メキシコ、サウジアラビア、ナイジェリア、そしてアフリカ大陸の大部分である。これらの国々は世界人口・経済規模・国際機関における政治的影響力の相当部分を占める。西側諸国と中国の参加を達成しつつ、このグループを排除する人工超知能ガバナンス枠組みは、不完全な委任と、時とともに拡大する正当性の問題を抱えることになる。.

設計されている枠組み、提案されている機関、起草されている条約文言は、AI開発の最先端でありながらガバナンスを主導する国々の優先事項を反映している。世界の残りの国々はほとんど後回しだ。歴史は、このアプローチが持続しない枠組みを生むことを示している。.

これは新しい問題ではない。主要な技術ガバナンス条約はどれもこの問題に直面してきた。そして、真に幅広い参加を達成した条約は、枠組みの主要な設計者ではなかった国々の懸念に対する明示的な配慮を通じて解決してきた。.

開発途上国が技術ガバナンスについて一貫して言ってきたこと

途上国が国際的な技術ガバナンス枠組みに対して抱いてきた懸念は、原子力からオゾン層保護、知的財産に至るまで、一貫している。それらは理不尽な懸念ではなく、すべてに同意しなくてもその政治的重要性は認められる。.

公平性の懸念は、技術ガバナンスの枠組みが対処する問題が主に富裕で技術先進の国々によって生み出されているという点です。これらの枠組みが課す制限はすべての国に適用されます。その結果、途上国は自らが引き起こしていない問題のコストを負担し、制限が課される前に富裕国が既に活用した開発の選択肢を放棄することになります。核拡散防止条約は1968年時点の核保有状況を固定し、非核保有国は核保有国が既に持っていたものを開発しないことに同意しました。モントリオール議定書は、富裕国がCFC依存の冷蔵・空調で経済を築いた後に、すべての国にCFCの段階的廃止を求めました。人工超知能のガバナンス枠組みも同じ構図を招くリスクがあります。制約なしにAI応用を開発して経済を築いた富裕国が、途上国に対し、それらの応用に適用されるはずだった制限を受け入れるよう求めるのです。.

アクセスに関する懸念も伴います。途上国は技術ガバナンス交渉で、規制対象技術の有益な応用への確実なアクセスを求めてきました。非核保有国（核拡散防止条約）は平和利用核技術へのアクセスを保証され、モントリオール議定書の締約国は代替CFCを補助金付き価格で入手できました。人工超知能ガバナンスへの参加を検討する途上国は、加盟によって得られる具体的な利益を問うでしょう。.

代表性の問題は構造的です。国際機関は、それを設立する国々によって設計されます。そこで生まれるガバナンスの枠組みは、参加国の優先事項と脅威認識を反映します。途上国は一貫して、自らの優先事項（技術へのアクセス、開発の道筋、国家の規制主権）が、自分たちがテーブルに着かないまま作られた枠組みでは十分に反映されていないと主張してきました。.

モントリオール議定書が公平性の問題をどのように解決したか

モントリオール議定書の途上国参加アプローチは、人工超知能ガバナンスにとって最も直接的に参考になる前例である。なぜなら、そこで扱われた技術は真にデュアルユースであり、移行コストが問題への貢献が最も少なかった国々に集中していたからだ。.

議定書は第5条を通じて差別化された義務を定め、1人当たりオゾン破壊物質の消費量が一定の閾値を下回る途上国に対し、先進国に求められる段階的廃止スケジュールに10年の猶予を与えた。これは、既存の大気中CFC蓄積にほとんど寄与しなかった国々が、大きく寄与した国々と同じ即時のコストを負うべきではないという認識に基づく。.

1990年に設立された多国間基金は、議定書遵守に伴う増分費用をカバーするため、第5条国に財政的資源を提供しました。また技術移転も資金援助し、途上国にCFC代替物質へのアクセスとその利用に必要な技術的能力を提供しました。基金は設立以来四十億ドル以上を支出しています。モントリオール議定書がほぼ普遍的な批准を達成した理由はこれです。遵守が財政的に不可能だと主張するであろう国々が、遵守するための資源を得たのです。.

その結果、最終的に197の当事国、すべてのUN加盟国による批准を達成した議定書が生まれました。当初抵抗していた国々も、調整メカニズムが整い、オゾン層破壊に関する科学的コンセンサスが無期限の不参加を政治的に持続不可能にしたことが明らかになると参加しました。.

核拡散防止条約の大取引とその関連性

核不拡散条約の参加アーキテクチャは異なるモデルを提供する。核拡散防止条約の取引は明示的かつ相互的だった。非核保有国は核兵器を開発しないことに同意し、その見返りとして国際原子力機関の保障措置の下で平和利用の原子力技術へのアクセス保証、核保有国からの安全保障の保証、そして核保有国による軍縮追求の約束を受け取った。非核保有国は能力を放棄し、脅されないという約束だけでなく、積極的な利益を得た。.

この相互的な構造が、条約の広がりを支えました。核兵器を技術的に開発し得た国々（西ドイツ、日本、スウェーデン、エジプト、ブラジル）は、条約の平和利用規定によって、独自に開発するか諦めるしかなかった原子力技術へのアクセスを得られるため、開発を断念したのです。ガバナンスの枠組みは、同時に技術共有の取り決めでもありました。.

このモデルに基づいて構築された人工超知能ガバナンス枠組みは、途上国に対し、フロンティアAIプログラムに安全監視義務を受け入れる見返りとして、AI技術、訓練資源、開発援助への保証されたアクセスを提供する。監視義務を受け入れた国は、条約締約国が他の締約国に優先的に提供するAIシステムやインフラへのアクセスを含む、共有ガバナンス体制の利益を受ける権利を有する。.

インドと参加の問題

インドは、人工超知能のグローバルガバナンス参加において最も重要な国である。世界最多の人口を抱え、大きく成長する技術セクターを持ち、インド工科大学をはじめとする機関に相当のAI研究能力を有し、2023年のブレッチリー宣言に署名しておらず、現在も主要なガバナンス枠組みに関与していない。インドは、主要国によって設計されたとみなす国際ガバナンス枠組みへの不参加という一貫した歴史を持ち、核拡散防止条約不参加にまで遡る。.

人工超知能ガバナンスに関するインドの立場には、いくつかの懸念が反映されている。インドはさまざまな国際フォーラムで、人工超知能ガバナンスは投機的な将来リスクではなく現在の危害に焦点を当てるべきだと主張してきた。これは最先端AI安全保障の提唱が想定するリスク評価とは異なる。また、自身の技術開発を制約しかねない人工超知能ガバナンス枠組みへの懸念も示している。そして、拘束力のある国際枠組みを国内で政治的に困難にする、国家の規制主権に対する原則的なコミットメントを持っている。.

インドと有意義に関与するには、これらの懸念に正面から向き合う必要があり、単にインドを、設計段階でインドが関与していなかった枠組みに批准するよう誘うだけでは不十分だ。つまり、設計プロセスの初期段階からインドの代表を含め、現在生じている被害と将来のリスクをどう優先するかについてのインドの異なる見方を真剣に受け止め、どのようなガバナンス枠組みもインドに具体的な利益（技術アクセス、能力構築、ガバナンス機関での代表権）を提供し、参加しないより参加した方が良い選択肢になるようにしなければならない。.

参加型人工超知能ガバナンス枠組みが提供するもの

モントリオール議定書と核拡散防止条約モデルを参考に、幅広い参加を実現するよう設計されたフロンティア人工超知能ガバナンス枠組みには、現在提案されているものの多くが欠いているいくつかの要素が含まれるだろう。.

差別化された遵守スケジュール。AI開発プログラムがまだ初期段階の国には、監視義務の適用までに長い猶予期間を与える。これは、現在それらの国が条約が対処しようとしているフロンティアAIリスクの発生源ではないことを考慮したものだ。.

技術アクセス基金。モントリオール議定書の多国間基金に倣い、途上国がAIシステム、クラウドコンピュート、技術的能力を有益な目的で利用できるようにする専用資金メカニズムを設ける。アクセスは条約参加を条件とし、参加への正のインセンティブとする。.

ガバナンス機関における意味のある代表。Global AI Monitoring Agencyのガバナンス構造は、途上国に人口と経済的比重に比例した投票権と指導的地位を与えるべきで、現在のAI開発能力のみによるものではない。主要なAI開発国5〜6カ国が理事会を支配する機関は、世界の残りの国々から正当性があるとは見なされない。.

「富裕国が自らのために設計し、それを条件に世界の参加を求めるガバナンス枠組みには、国際関係史において名前がある。帝国主義だ。そしてそれは持続可能な合意を生まない。」

最先端AIから生じる実存的リスクは、もし現実のものとなれば、どの国を害するかを選り好みません。世界の大多数の人口の懸念を無視したために幅広い参加を得られなかったガバナンス枠組みは、長く持続して意味を持つことはありません。人工超知能ガバナンスの技術的設計は確かに困難です。政治的設計（枠組みが十分な国々に十分な利益を提供し、必要な参加を築くこと）も同様に困難であり、はるかに注目されていません。モントリオール議定書の設計者たちは、両方の問題を理解していました。最先端の人工超知能ガバナンス議論は、まだ第二の問題に真剣に取り組んでいません。.

最も強い反発

最も公平な反論は、フロンティアAIはUS中国の問題で、残りの世界は傍観者に過ぎないというものだ。傍観者にも計算資源、才能、国際機関での投票権がある。世界の他の地域を有益な狭いAIから締め出す体制は、政治的に失敗する。ツールを共有しつつ人工超知能経路を塞ぐ体制なら、前に進める。.