2025年10月22日、Future of Life Instituteは「」というタイトルの公開書簡を発表した 超知能に関する声明. このような瞬間に通常伴う長大なマニフェストとは異なり、それは1つの文である：:

私たちは超知能の開発を禁止することを求める。それは、安全かつ制御可能に実現できるという幅広い科学的コンセンサスと、強い国民的合意が得られるまで解除されない。.

超知能に関する声明、Future of Life Institute · 2025年10月

これは超知能を決して作るべきではないと言っているのではありません。AIそのものを非難しているのでもありません。一つの条件（実際には二つ）を設定し、それが満たされるまで開発を停止するよう求めています。この控えめな要請が本当の意味で議論の転換点になる理由を理解するには、何を要求し、誰が名を連ねたのかを知る必要があります。.

声明が実際に求めているもの

その表現は正確です。2023年の大規模訓練ランに対する6ヶ月停止を求めるよく知られた書簡を含む、以前の公開書簡と区別する三つの特徴があります。.

  • それは特に超知能を対象としている。. 狭いAIでも、チャットボットでも、すでに日常生活に織り込まれているAIツールでもない。この禁止は、本質的にすべての認知領域で人間の能力を超えるシステムに適用される。私たちの解説で説明しているカテゴリだ。 人工超知能. この精度は、安全論者が有益な技術の停止を望んでいるとする、いつもの反論を弱める。彼らはそう望んではいない。彼らが止めたいのは、特定の、そして特に危険なフロンティアだけだ。.
  • それは条件付きの禁止であって、永久的な禁止ではない。. 禁止は二つの閾値が越えられた瞬間に解除される。これで問い全体の枠組みが変わる。現在のデフォルトは「超知能を構築し、後で安全を確立できればする」だ。この声明はそれを逆転させる。「まず安全を確立し、その後に構築する」。証明責任は開発者側に移り、このような重大な技術ではそれが本来あるべき場所だ。.
  • 専門家の承認だけでなく、国民の支持が必要だ。. 二つ目の条件は技術的ではなく民主的だ。仮に科学者たちがいつか超知能を制御可能だと合意したとしても、声明は一般市民の同意を必須とする。これは現在の一握りの民間研究所が文明を変える決定を全員の代理で行っている状況への直接的な挑戦であり、私たちが 誰が超知能を制御するのか.

署名者が文面よりも重要な理由

オープンレターは安上がりだ。これが成功したのは連合のおかげだ。850人以上が署名し、そのリストが注目すべきなのは長さではなく、その 範囲.

頂点にはその分野を築いた科学者たちがいた。. ヨシュア・ベンジオ と ジェフリー・ヒントン （ともにチューリング賞受賞者で、現代AIのゴッドファーザーと呼ばれる）も署名し、Berkeleyの スチュアート・ラッセル, 標準的なAI教科書の著者。技術の存在に最も責任を持つ人々が、その最も強力な形態を構築する前に世界に停止を求めるのは、証言であって、活動ではない。.

Then came the builders and the public figures. Apple co-founder Steve Wozniak そしてVirginの創業者 Richard Branson. 歴史家 Yuval Noah Harari, 俳優 Stephen Fry, そしてミュージシャン will.i.am. Retired national-security leaders including former Joint Chiefs chairman Admiral Mike Mullen および元国家安全保障顧問 Susan Rice. 。そして最も示唆的なのは、ほとんど何も同意しない人物たち：: プリンス・ハリーとメーガン と並んで Steve Bannon と Glenn Beck.

最後の細部が、議論全体を縮図のように表しています。英国王室夫妻とMAGA系メディア戦略家が同じ文に署名するとき、その問題は通常のイデオロギー的分断を越えています。超知能への懸念は、2025-2026年において本物の超党派的支持を持つ数少ない立場のひとつであり、それが拘束力のある政策を可能にする連合のまさにその種です。左右でも、体制派でもポピュリストでもありません。.

声明が述べていること、そして述べていないこと

限界について冷静に認識しておくことが重要だ。公の声明は何も禁止しない。規制当局を指揮せず、企業を拘束せず、政府を制約しない。それを法律とみなす読者は誤っている。.

それがするのは を動かすことです Overton window, 、主流と見なされ、口にできる立場の範囲である。二年前、AIのある種のクラスに対する禁止を求めることは、極端な主張として退けられただろう。2025年10月以降、それはノーベル賞級の科学者、象徴的な起業家、さまざまな政治的立場の人々が公に表明する立場となっている。言えることが敬意を払われるものになるというこの変化が、その後に続くすべての前提条件となる。政治家はすでに人気のある立場を取るのであり、めったに先導はしない。この声明の機能は、指導者が行動できるほど禁止を人気のあるものにすることだ。.

これがまさに、初期の技術ガバナンス運動の始まり方である。The パグウォッシュ会議 核軍備管理を支える知的・道徳的コンセンサスを築くのに20年を費やした。声明や宣言は滑走路を整備するものであり、ゴールラインではない。.

一文から条約へ

声明と現実のギャップこそ、中田財団が埋めるべきものです。声明は禁止が望ましく正当であることを示しますが、それを強制する仕組みまでは作りません。その仕組みには、声明があえて明記していない三つの要素が必要です。:

  • 実効性のある定義。. 「超知能」を条約が機能する基準——コンピュート閾値、能力評価、あるいは両方——に翻訳する必要があります。これを 危険なAIを定義する外交上の課題.
  • 検証。. 誰もチェックできない禁止は 生物兵器禁止条約, 数十年にわたり検知されずに破られてきた高潔な禁止。信頼できるガバナンスには、 核検証体制.
  • 拘束力のあるコミットメント。. 自発的な誓約には実績があり、それは勇気づけられるものではない。当社の記事の主題である 自主的なコミットメントが不十分な理由. その声明の原則は強制力のある法律にならなければならない。.

超知能に関する声明は、貴重な事実を証明した。意志は存在し、通常人々を分けるあらゆる境界を越えている。私たちの 計画 は、その意志を計算資源の管理、監視機関、そして国際条約に変換し、声明のただ一文に必要な効力を持たせることだ。もしその一文に同意するなら、次にできる最も有用なことは、それを政策に変える連合を築く手助けをすることだ。.