超知能を誰が制御するのか？?
民主的監督の論拠

The people deciding how fast to build toward superintelligence, what safety standards to apply, and when to deploy systems approaching that threshold are, predominantly, the employees and investors of five or six private technology companies. They are not subject to binding international law, not elected. Their decisions are constrained by voluntary commitments they have made to each other and by the regulatory environments of the countries where they operate, which are incomplete and largely reactive.

それらの事実は最終的な答えにはなり得ない。.

これは非難ではない。これらの組織にいる人々は、多くの場合、本当に責任ある行動を取ろうとしている。問題は構造的なものであり、この規模の決定は、特定の企業の特定の個人の善意に委ねられるべきではなく、競争圧力が安全マージンを削ってでも迅速な展開を促す環境下で下されるべきではない。.

現在の意思決定構造

OpenAI, Anthropic, Google DeepMind, and Meta AI are the primary Western actors in frontier AI development. Each has internal safety teams, has made public commitments to responsible development, and participates in voluntary governance forums including the Frontier Model Forum. China's development is led primarily by state-backed entities and large technology companies operating under government coordination.

最も重要な決定――次の能力レベルをいつ押し進めるか、展開前にどのような安全評価が十分か、システムのアライメントが適切に検証されたかどうか――は、これらの組織内部で下され、内部の安全チームによってレビューされ、彼ら自身が主に書いた基準で評価されます。.

これは構造的なギャップの記述です。超知能に関する決定で最も影響を受ける人々には、それらに影響を与える意味のある正式な仕組みがありません。特定の企業の意図を批判するものではありません。.

民間ガバナンスが構造的に失敗する理由

3つの構造的問題により、関与する企業の意図に関わらず、民間企業の超知能ガバナンスは不十分である。.

第一は競争圧力である。本当にアライメントが解決するまで待とうとするラボであっても、競合他社が先に展開すれば市場での地位を回復しにくくなることを知っている。これにより、「十分な安全」を、競合に先んじて展開できる水準で定義する誘因が生まれ、実際に十分な水準で定義する誘因は弱まる。個別の企業はこの問題を単独で解決できない。自発的な安全コミットメントが存在するのは、企業がこの問題の現実性を認識しているからであり、それが不十分なのは、自発的コミットメントが競争圧力で曲がるからである。.

第二の理由は、安全性評価における利益相反である。AIシステムの安全性評価を行う組織は、そのシステムが評価を通過することに金銭的利害を持つ組織と同一である。これは現在の分野の実態であり、誇張ではない。内部の安全チームは真剣で価値ある活動を行っているが、独立した外部審査の代替にはならない。製薬会社の社内臨床試験が独立機関による規制審査の代替にならないのと同じである。.

三つ目は決定の範囲です。超知能を構築するかどうか、そしてその時期は、文明全体にかかわる問題であって、製品の決定ではありません。その決定にふさわしい場は、未来を左右される人々に対して責任を負う統治機構であって、株主に対して責任を負う企業取締役会ではありません。.

民主的かつ超国家的な監視に必要なもの

超知能に対する民主的監督の主張は、民主的プロセスが完璧であるとか国際機関が円滑に機能すると仮定していません。代替案（競争圧力下の民間統治）が明らかに劣っていると仮定しているのです。.

十分な監督には三つの性質が必要である。第一は代表性の正当性——統治機関は影響を受ける人々に対して説明責任を負わねばならず、最終的にはフロンティアAIが開発される国の市民だけでなく、全人類に対してである。これは、単独の国家規制ではなく、幅広い加盟国による国際条約機関を指向する。.

第二に拘束力のある権限です。自主的なコミットメントはガバナンスではありません。超知能のためのガバナンス枠組みには、遵守を義務づけ、独立した監査を実施し、違反に制裁を課す法的権限が必要です。これには業界フォーラムではなく、条約レベルの合意が必要です。.

第三は技術的能力だ。統治する対象を評価できない統治機関は、それを統治できない。国際的なAI監督には、本物の技術的専門知識を持ち、モデル重みや訓練記録にアクセスでき、整合性主張を独立して評価する分析ツールを備えたスタッフが必要だ。.

核の前例

「危険な技術の効果的な国際ガバナンスは不可能だという主張は、歴史によって反駁されている。1968年に署名され、現在191カ国で効力を持つ核拡散防止条約は、1960年代の分析者が予測したよりもはるかに少ない国々に核兵器の拡散を抑えることに成功した。不完全ではある。すべての拡散を防いだわけではない。それでも、歴史上最も影響力のある軍備管理協定の一つである。」.

1997年に発効した化学兵器禁止条約は、申告された化学兵器7万トン以上の検証済み廃棄を実現した。化学兵器禁止機関（化学兵器禁止機関）が運営する査察制度は、加盟国の施設への独立した検証訪問を実施し、真の技術的信頼性を備えて運用されている。.

「超知能AIの開発責任は、単一の主体（国家または企業）に委ねるべきではなく、人類の多様性をすべて代表する民主的かつ超国家的なガバナンス構造に委ねるべきである。」

Global Policy Journal、2026年2月

核兵器に関するどちらの条約も人工超知能ガバナンスの完全な類推とはならない。AI開発は核兵器の生産よりも速く、より分散しており、物理的な監視がより困難である。しかしこれらの前例から導かれる核心的な主張は有効だ。技術が真に地球規模で、潜在的に不可逆的なリスクをもたらす場合、国際社会はそれを制約するガバナンス構造を構築する能力を示してきた。AIが特有に統治不能だと主張するのは技術的な観察ではなく、選択である。.

競争上の異議と、それが問題を解決しない理由

スーパーインテリジェンスの民主的で国境を越えた監視に対する最も深刻な反対は競争です。西側の民主主義がガバナンスの制約に服従し、中国が服従しない場合、その結果、安全意識の低いアクターが最初にスーパーインテリジェンスに到達することになります。

この対応にはいくつかの部分があります。第一に、ガバナンス枠組みは当初から主要なすべてのアクターを含むよう設計されなければなりません。USとその同盟国は、技術アクセス、投資フロー、チップ供給網を通じて中国のAI開発に大きな影響力を持っています。その影響力は、ガバナンス枠組みが中国抜きで構築され失敗した後ではなく、存在する今こそ価値があります。第二に、中国政府自身も、西側企業が開発した非整合的なAIに追い越されることを望んでおらず、ブレッチリーパークでの国際AI安全保障議論にも参加しています。中国の参加への障害は現実的ですが、克服不可能ではありません。第三に、多国間ガバナンスの代替は、主要アクターがすべて最小限の安全制約で先制展開を目指す競争であり、これはUSや同盟国に明らかに有利とは言えず、誰が構築するかにかかわらず非整合的な超知能が生まれる可能性を高めます。.

競争上の異議申し立ては、現状維持のための議論を構成するものではありません。現状は、競争圧力の下での民間ガバナンスであり、上記の分析は構造的に不十分であることを示唆している。「多国間ガバナンスは難しい」という答えは、より簡単だが明らかに不十分なガバナンスを受け入れるのではなく、それに向けて取り組むことです。

財団の 3つの政策提案 は、この制約を最初から明示的に考慮して設計されている。主要なすべてのアクターが参加可能で、参加する方が不参加より魅力的になる政治的・経済的インセンティブを備えた枠組みだ。.