共有された科学的基盤のないガバナンスは、共通の地図のない交渉である。1990年以前の気候交渉はこの問題を例示している。人為的温暖化が実際に起きているかどうかをめぐって対立する政府は、どのような対応が適切か合意できなかった。事実的前提が相容れなかったからだ。気候変動に関する政府間パネルの1990年に公表された初の評価報告書は、温暖化が進行しており人為的要因によることを確立した。それで政治的対立が終わったわけではないが、対立の性質を「問題が存在するかどうか」から「問題にどう対応するか」へと変えた。.

気候変動に関する政府間パネル以前、気候科学は議論の的だった。30年にわたる気候変動に関する政府間パネル評価報告書を経て、気候政策の科学的基盤は事実上確定した。対応をめぐる政治的論争は残るものの、AIリスクにも同じような権威ある統合が必要だ。それに相当する組織を構築するには何が必要か、その答えは具体的に存在する。.

AIリスクの政治は、pre-気候変動に関する政府間パネルの状態にある。最先端AIリスクに関する証拠を統合し、壊滅的な結果の確率と性質を評価し、政府がガバナンス決定の共有された事実的基盤として扱うような、権威ある国際機関は存在しない。このギャップは些細な不便ではない。共有された事実的前提なしに始まるガバナンス交渉は、リスクの性質よりも戦略的利益によって形作られた枠組みを生み出しやすい。.

気候変動に関する政府間パネルが実際に合意を形成した経緯

気候変動に関する政府間パネルは独自研究を行いません。世界中の大学や研究機関で何千人もの科学者が生み出した査読済み研究を総合評価報告書にまとめています。総合のプロセスには、専門分野の文献を査読・要約する数百人の専門家著者が関わります。政策決定者向け要約——政府やジャーナリストが実際に読む部分——は、科学者著者と195の気候変動に関する政府間パネル加盟国政府代表による逐行交渉で作成されます。.

この交渉プロセスは気候変動に関する政府間パネルの政治的権威の源泉であると同時に、保守的な性格の源泉でもある。どの政府も要約の特定の文言に異議を唱えることができ、要約が採択される前に異議が対処されなければならない。つまり要約は、参加する全政府が受け入れる最低水準を反映しており、それは政治的フィルターなしで基礎科学を読んだ場合に支持される内容よりも、ほぼ常に慎重なものとなる。気候変動に関する政府間パネルの要約は、要約する完全な評価報告書に比べて一貫して緊急性を過小評価している。なぜなら要約の文言は政府審査を通過しなければならないからだ。.

この保守的なバイアスにもかかわらず、気候変動に関する政府間パネルの評価は影響力を持ってきた。1990年の第1次評価報告書で人為的温暖化の科学的根拠が確立されてから、2022年に完了した第6次評価サイクルで証拠が「疑う余地がない」とされ、リスクが「深刻かつ広範」と位置づけられるまでの累積的な規範的変化により、各国政府が気候変動の基本的事実を公に否定することがますます困難になった。否定の政治的コストは、各評価サイクルごとに上昇している。なぜなら気候変動に関する政府間パネルの権威は、ほぼすべての政治体制で認められているからである。.

パグウォッシュ代替案

気候変動に関する政府間パネル以前に、実存的リスクに関する最も影響力のある科学政策インターフェースは、パグウォッシュ科学と世界問題会議であった。パグウォッシュは1957年にラッセル＝アインシュタイン宣言への対応として始まった。1955年のこの宣言には、アルバート・アインシュタイン、バートランド・ラッセルほか9人の著名科学者が署名し、核兵器の危険性を警告し、政府に平和的手段による紛争解決を促した。1957年7月にノバスコシア州パグウォッシュ村で開催された第1回会議には、米国、ソ連、英国を含む10カ国から22人の科学者が集まり、核兵器リスクについて議論した。.

パグウォッシュ会議が政府間公式プロセスと異なっていたのは、その非公式な性格だった。参加者は政府代表ではなく個人として出席し、議論は非公開とされた。敵対国同士の科学者たちは、自国政府が公式に認可していない立場やアイデアを自由に探ることができた。この非公式さが、冷戦下では外交の正式な場では不可能だった率直な意見交換を可能にした。.

パグウォッシュは条約を生まなかった。後の正式交渉で形式化された知的基盤を生んだ。抑止安定性の基盤としての相互確証破壊の概念は、パグウォッシュの議論で洗練された後にUSの公式政策となった。部分的核実験禁止条約（1963年）と核不拡散条約（1968年）はともにパグウォッシュの議論で発展したアイデアを活用した。同組織は1995年に、軍備管理へのこの貢献を認められ、長期事務局長のジョセフ・ロートブラットと共同でノーベル平和賞を受賞した。.

2つのモデル、2つの機能

気候変動に関する政府間パネルとパグウォッシュ会議は、科学と政策のインターフェースが果たしうる二つの異なる機能を表している。気候変動に関する政府間パネルは既存研究を権威あるコンセンサス評価にまとめ、政府間審査から得られる政治的正当性を備えている。パグウォッシュは、政治的境界を越えた非公式対話を生み出し、正式に政治的に実現可能になる前にアイデアを発展させた。AIリスクガバナンスには両方が必要である。政策の共有事実前提を確立するための体系的な証拠統合と、正式交渉開始前にガバナンス概念を発展させるための非公式な地政学的対話である。これらの機能は単一の組織でも、二つの別組織でも担える。.

AIリスクパネルが本来やるべきこと

An international panel on AI risk modeled on the 気候変動に関する政府間パネル would face several challenges that have no equivalent in climate science.

独自知識の問題。最先端AIシステムの能力とリスクに関する知識のほとんどは、少数の民間企業が保有している。最先端AI安全に関する研究文献は部分的に公開されているが、最も関連性の高い情報——内部能力評価の結果、安全試験の結果、インシデント報告——は非公開である。気候変動に関する政府間パネルは公開された査読済み研究を統合する。AIリスクパネルが最も関連性の高い証拠を統合するには非公開情報へのアクセスが必要であり、そのためには最先端AI開発者が定義された秘密保持措置の下で情報を提供しなければならない。これらの措置の設計は、気候変動に関する政府間パネルに前例のない重大な統治課題である。.

ペースの問題。気候変動に関する政府間パネルは5〜7年ごとに主要な評価報告書を作成し、その間に更新を出す。このペースは、数十年単位で変化する物理現象に適している。AI能力は月単位で進んでいる。AIリスクパネルは、はるかに頻繁な評価を作成するか、能力開発をほぼリアルタイムで追跡する常設監視機能を設ける必要がある。より頻繁な報告書は、気候変動に関する政府間パネルの逐行政府間審査プロセスでは作成しにくくなる。なぜならそのプロセスは意図的に遅いからだ。.

二重用途の知識の問題。気候科学は公に利用可能な知識であり、本質的な安全保障リスクを伴わない。AI安全研究は、危険な能力がどのように悪用されうるかを理解することを含む場合があり、評価を権威あるものにする透明性と、一部の知見を制限すべきだという安全保障上の懸念との間に緊張を生む。AIリスクパネルには、気候変動に関する政府間パネルがこれまで開発する必要のなかった、機密性の高い能力関連の知見を扱う手続きが必要になる。.

なぜそのような機関の不在がすでにコストとなっているのか

AIリスクの証拠をまとめる権威ある国際機関が存在しないことは、今まさに目に見える具体的なガバナンス上のコストを生んでいる。.

ガバナンス交渉は、事実認識の前提が一致していない状態で進められている。各国政府や政府内の異なる派閥は、人工超知能が破局的リスクをもたらす時期、リスクの性質、必要なガバナンス措置について、根本的に異なる評価を持っている。共有された事実基盤がなければ、交渉は最も政治的に都合の良いリスク観に基づく枠組みを生み出し、最も正確な評価に基づくものにはならない傾向がある。.

リスクコミュニケーションは断片的で一貫性がない。人工超知能リスクに関する警告は、学術研究者、AI企業の内部安全チーム、シンクタンク、擁護団体など多様な情報源から発せられており、共有された方法論も、共通の語彙もなく、意見の相違を裁定するプロセスもない。その結果、公の議論は信頼できる権威ある参照点もなく、軽視と警鐘の間を行き来している。気候変動に関する政府間パネルの気候コミュニケーションにおける価値は、まさにジャーナリスト、政策立案者、市民が、軽視と誇張の両方に対抗して引用できる単一の権威ある情報源を提供した点にあった。.

「気候変動に関する政府間パネルは気候変動に取り組む政治的意思を生み出しませんでした。問題を無視することが政治的にコストのかかるものになるための、共有された事実基盤を作り出したのです。人工超知能ガバナンスにも同じものが必要です。フロンティアAIリスクに関する証拠が実際に何を示しているかを確立する権限と方法論を持つ機関です。そうすれば、ガバナンスの議論は戦略的に都合の良い不確実性ではなく、共有された事実から進められます。」

気候変動に関する政府間パネルがAIにもたらす最も重要な先例は、方法論ではなく政治的なものだ。気候変動に関する政府間パネルは1988年に設立され、最初の評価報告書から2年、第六次評価サイクルの結果が「すでに広範で、急速かつ強まっている影響をもたらす」と記述される34年前のことである。体系的な証拠統合への制度的投資は、その証拠に基づいて行動する政治的意思が到着するずっと前から始まっていた。AIリスクについても、同等の制度的枠組みは、効果的なガバナンスの窓が閉じる前ではなく、閉じた後に始める必要がある。.

政府間メンバーからなるAIリスクに関するパネル、公開および適切な秘密保持措置の下での非公開安全研究を統合する権限、気候変動に関する政府間パネルより速い報告サイクル、AI安全研究コミュニティから独立した技術専門知識へのアクセス——これらは既存の国際機関枠組み内で構築可能である。条約は不要で、十分な政府連合による政治的コミットメントと資金提供が必要となる。拘束力のある統治義務を支えるために、事前に創設できる種類の機関である。この機関が評価する技術が早期評価を陳腐化させる前に創設されるかどうかは、回答期限が迫る問いである。.

最も強い反発

もう一つの科学パネルが、研究所が製品を出す一方でただの談話の場になるという反論は、最も公平なものだ。リスクは当然ある。気候変動に関する政府間パネルのパターンが有効なのは、共有された事実を法律を書く場に強制的に持ち込むときだ。閾値や執行への道筋のないパネルは演劇にすぎない。アセスメントとトリガーを組み合わせよ。.