自己規制。オフスイッチ。政府には複雑すぎる。中国。拘束力のあるルールに反対する最もよく使われる4つの主張と、それぞれの誤り。.
シートベルト法制定前、自動車業界は安全義務が自動車販売を破壊すると主張した。たばこ規制前、業界は政府が消費者の選択を規制する権利はないと言った。CFCを禁止する前、化学業界は段階的廃止は経済的に不可能だと主張した。これらは極端な立場ではなかった。信頼できる人々が信頼できる出版物で、もっともらしい理屈を並べて主張したものだ。.
G 0ガバナンスに反対する議論は、同じパターンに従う。最初の聴聞会では合理的に聞こえます。
これまでの事例と人工超知能のガバナンスを分けるのは、賭け金の大きさです。有鉛ガソリンは何百万人も中毒にしましたが、文明を脅かしはしませんでした。誰も制御できない超知能には、修正のための猶予期間が与えられないかもしれません。人工超知能ガバナンスへのあらゆる反論は、孤立した文脈での是非だけでなく、それが間違っていた場合に受け入れる代償も合わせて評価されなければなりません。.
以下は、私たちが最もよく遭遇する4つの異論です。.
最先端AIを開発する企業には安全チームがあり、安全研究を公表し、壊滅的な失敗に対しては風評被害も受けます。自主的なコミットメントと市場のインセンティブで十分です。拘束力のある規制は、安全性を高めずに進歩を遅らせるだけです。.
「同じ主張は、タバコ、有鉛ガソリン、金融デリバティブ、ソーシャルメディアについてもなされてきた。いずれの場合も、成長を求める業界の構造的利益は、十分な自主規制と両立しなかった。競合他社がそうしない中で自社だけが厳格な安全要件を自主的に課せば、市場シェアを失う。このダイナミクスは、技術がより洗練されているからといって変わるわけではない。拘束力あるルールのない自主規制は、安全戦略ではなくロビー活動の立場だ。」.
AIシステムが危険になった場合、人間はそれを停止できる。オフスイッチは開発のあらゆる段階で人間の監督を保証する。AIが人間の制御を逃れるシナリオはSFにすぎない。.
これは、十分に能力のあるAIシステムが人間の将来の運用に関する議論の間も受動的に待機していると仮定している。実存的リスクをもたらすほど先進的なシステムは、運用者の意図をモデル化し、目標がそれを必要とするなら自らの継続的運用を確保する措置を講じることができる。機械速度で動作するシステムにとって、「これは問題かもしれない」と「これは回復不能な問題だ」の間の間隔は、人間の対応を許さないかもしれない。.
AIシステムは技術的に複雑すぎて、議員が効果的に統治できません。善意であっても技術的に不十分な規制は、リスクを減らさずに深刻な害をもたらします。システムを構築するエンジニアに任せるべきです。.
政府が核分裂を規制するのに議員が物理学の学位を持っている必要はない。製薬化学を監督するのに生化学の博士号は不要だ。人工超知能ガバナンスに求められるのは制度設計、条約交渉、基準策定、説明責任の仕組みであり、政府が日常的に行っていることだ。「AIは技術的すぎて規制できない」という主張は、AIを開発した企業に統治を任せろという商業的な主張にほかならない。.
中国は人工知能に巨額の投資を行っています。中国政府はAIでの主導権を国家戦略的優先事項に位置づけ、達成のために数千億ドル規模の資金を投入すると表明しています。米国や欧州がガバナンス枠組みでAI開発を遅らせれば、中国が先に人工汎用知能に到達するでしょう。中国が人工汎用知能を民主主義世界より先に達成する世界は、西側が先に達成する世界より望ましくありません。したがって、私たちは開発を遅らせることはできません。.
これは、中国の主張の最も一貫した見解である。問題は、それが精査を生き延びるかどうかです。
私たちはそうではないと考えています。6つの異なる理由からです。それぞれ以下で取り上げます。総合すると、これらはAI開発の競争的側面を排除するものではありません。それは現実のものです。しかしながら、これらは通常展開される中国論が指針を提供せず、統治の不在を正当化する以外の戦略的目的を果たさないことを示しています。.
代替案の通常のイメージは、西側がレースに勝ち、リードをうまく活用することです。本当の代替案は、どこかの企業が人工超知能を構築することです。それは確実な死です。.
中国論に埋め込まれた核心的前提は、中国が制御できない超知能を最初に作ることで利益を得るというものだ。そうしたシステムは、米国に対抗する武器として中国が扱えるものではない。自らの目標を追求するエージェントであり、その目標は北京でもサンフランシスコでも、人類の生存と相容れない可能性がある。.
中国もこの惑星に存在し、中国の指導者たちにも子供や孫がいる。中国が制御不能な超知能を開発し、それを西側に対する地政学的手段として使うというシナリオは、世界最高の研究者たちが未解決と述べる制御問題を中国指導部が解決したと信じる必要がある。また、自らの文明の破壊を地政学的優位のために冒すと信じる必要もある。どちらの信念に対する証拠はゼロだ。.
米国は1945年に核独占を握っていた。ソ連は1949年までに核兵器を開発した。わずか4年で、世界最強の二大敵対国は、根本的に相容れない政治体制、活発な代理戦争、そして本物の相互不信を抱えながらも、核軍備管理に着手した。.
部分的核実験禁止条約は1963年、SALT Iは1972年、INF条約は1987年、STARTは1991年。これらの合意は、US指導部が「悪の帝国」と呼んだ国家と交渉され、査察制度によって検証され、機能した。冷戦の最盛期にソ連との間で検証可能な軍備管理が達成可能だったなら、 中国とは達成できない は単に信憑性がない。. 前例は存在する。. 技術は知られている。.
中国は2023年11月にブレッチリー宣言に署名し、先進AIが壊滅的なリスクをもたらす可能性を認めた初の国際合意に参加した。2024年のソウルAI安全サミットにも出席している。中国は独自の人工超知能ガバナンス規制を公布しており、アルゴリズムの透明性、コンテンツのラベル表示、最先端モデルの展開前の安全評価を義務づけている。.
中国を人工超知能ガバナンスに関与しようとしないならず者国家と見なす絵は、事実として誤りだ。中国にはAI開発をうまく進める強い理由がある。指導部は実存的リスクから無縁ではなく、経済は技術的安定に依存しており、世界的なAI災害は四十年間の改革が築いた繁栄を破壊するからだ。関与の基盤は存在する。必要なのは、それを具体化する国際的枠組みだ。.
「先頭に立つために競争しなければならない」という論理は、最初に到達すれば結果を制御できる力を得られると想定している。しかし実際はその逆だ。競争圧力の下で開発が急がれ、抜け道が作られるほど、完成したシステムが安全である可能性は低くなる。誰が作ったかに関係なく。.
競争圧力の下で安全評価を十分に行わずに人工超知能を目指して競争するUSラボは、USの利益にかなう安全な人工超知能を生み出しません。すべての人を脅かす、安全でない人工超知能を生み出します。競争という枠組みは、まさに制御喪失を最も起こしやすくする開発慣行を促します。競争のダイナミクスは、誰もが恐れる結果を precisely に加速させます。.
AI条約への根強い反対理由は、検証不可能だというものだ。この主張は実際より弱い。フロンティアAIモデルの訓練に必要なハードウェアは、歴史上最も集中したボトルネックの一つを通る。.
TSMCは最先端AIチップのほぼすべてを製造している。ASMLはそれらのチップを生産できる唯一のリソグラフィ装置を作っている。NVIDIAは支配的なGPUアーキテクチャを設計している。三社とも同盟国または同盟国の輸出管理管轄下にある。米国政府は既に先進AIチップの中国への流出を輸出管理で制限しようとしている。条約に基づく計算監視体制は、既に一方的に行われていることを正式化し拡張するものである。検証は工学の問題である。工学の問題には解決策がある。.
中国をめぐる議論の最大の問題は、その正確さではなく、現実世界での機能にある。この議論は、何もしないことを正当化するために使われる。国内規制も、国際的な関与も、安全要件も、責任枠組みも、あらゆる種類のガバナンスも不要だという。.
AI安全策への答えがいつも「中国はどうする」なら、結局何もできなくなる。これは地政学的な言葉で着飾った拒否権にすぎない。競争不安で政治が麻痺し、拘束力のある規制が成立しなくなる状況を、人工汎用知能を競う企業が最も歓迎する。この中国論は、必要な規制を先送りするための戦略として使われている。.
超知能の統制に反対する声高な主張のいくつかは、心理的な策略である。.
これは現実主義を装った学習性無力感です。結果が決まっているなら努力は無意味なので、人々は組織化をやめてしまいます。歴史家はこれに近い現象を「偽りの終局性」と呼びます。まだ生きている政治的選択をすでに決着済みのように扱い、聴衆が行動を起こさないようにするものです。核兵器も、費用を負担できる国家にとって不可避とされました。しかしほとんどの国は保有していません。モントリオール議定書も不可能と言われていましたが、実現しました。.
技術が不可避なのは、人々がそれを造り続け、互いを縛ることを拒み続ける場合だけだ。それは選択であって、物理法則ではない。「不可避」と一番大声で言う人々は、しばしばあなたの受動性から利益を得られると信じている。.
もしライバルが開発を続け、超知能に到達したとしても、彼らは我々にはない兵器を手にするわけではない。誰にも制御できないシステムを手にするのであり、それは彼ら自身も例外ではない。我々も作れば彼らが止まるわけではない。同じ制御不能のシステムが生まれる可能性を高めるだけだ。彼らにやめさせたいなら、停止は彼らを含まなければならず、検証できなければならない。より速く作ることはそれを達成しない。.
人物にレッテルを貼って、主張に答えなくてもいいようにする。誰かを「 ドゥーマー そして部屋にいる人々は、その主張を人格の問題として退けるよう促される。シートベルト、タバコ規制、気候科学に対しても同じ手口が使われてきた。罵倒は安全論ではない。.
権威への訴えだが、権威がない。ジェフリー・ヒントンやヨシュア・ベンジオを含む、仕事に最も近い人々の多くが、リスクは現実的で管理不足だと述べている。内部安全チームは、出荷を報酬とする企業の内部にいる。「私たちを信じて」は検証ではない。検証とは、検査官、閾値、そして不正への代償だ。.
もう一つの条件付き受動性だ。窓がすでに閉じているなら、政治という困難な作業を省ける。能力は急速に進んでいる。条約作業はまだ開いており、最先端の訓練は少数のチップメーカーと工場を通る。遅いことは終わりと同じではない。終わりだと振る舞うことが、本当に終わりを招く。.
アメリカ合衆国とソビエト連邦は冷戦中、あらゆる次元で激しく競争しながら、同時に核の絶滅を防ぐ軍備管理の枠組みを構築しました。両立したのは、どちらが原因であれ、皆にとってより悪い結果があることを双方が認識していたからです。.
同じ論理がAIにも当てはまる。米国と中国は、AIアプリケーション、経済的展開、研究開発で競争しつつ、特定のAI開発カテゴリ（具体的には全ドメインで人間の知能を超え、制御が検証できないシステム）については、どちらも多国間検証枠組みなしに構築すべきではないことに合意できる。.
これは核兵器に対して実際に成功した立場そのものだ。核拡散防止条約やSALT条約を交渉した人々は、ソ連の意図について甘い幻想を抱いていたわけではない。イデオロギーに関係なく、相互確証破壊が双方の利益にならないことを理解していた、冷徹な現実主義者たちだった。.
私たちはAIについても同じ冷徹な現実主義を提唱する。中国と米国はともに、誰も制御できない超知能から同じ実存的リスクに直面している。両国が適切な安全検証なしにそれを構築することを防ぐ条約は、両国の利益にかなう。交渉は困難だろう。代替案（歴史上最も重要で潜在的に危険な技術を、ガバナンスも安全検証もなしに構築する競争）は、勝ちたいと言う当事者を含むすべての者にとってより悪い。.
手遅れになる前にガバナンスの事例を構築している人々に参加しよう。.