2016年当時、専門家の典型的な予測では人間レベルのAIはまだ数十年先とされていた。2020年代半ばになると、大規模調査や研究室のリーダーたちがその時期を大幅に前倒しし、時にはこの文章を読んでいる人々の現役世代にまで引きずり込んだ。タイムラインは依然として不確実だが、修正の方向性は明らかだ。.
予測調査が実際に示していること
AI Impactsが複数の年にわたり、AI研究者を対象に「人間レベルの機械知能」（おおむね人工汎用知能に相当）の実現時期を調査しており、人工汎用知能のタイムラインに関する最も体系的なデータはここから得られる。結果は示唆に富む。.
2016年、調査対象の研究者たちはHLMIの確率中央値を2061年までに約50%と見積もっていた。2022年までに、GPT-4の一般公開前には、その中央値はすでに大幅に早まっていた。これらの予測を行っている研究者たちは、自分たちが予測しているシステムを構築している人々であり、終末論者や宣伝者ではない。.
データに現れるパターンは、合意された目標日ではなく、正確な年についての合意がほとんどない収束する窓です。各新しい調査（実際の能力開発に対して校正されたもの）が前回より短いタイムラインを生み出すというパターンです。.
四年。 barely つながるだけのテキストから、専門職の能力を測る標準化された指標で人間の専門家のトップ十分位に入る性能へ。これがタイムライン予測を較正する際の経験的記録だ。.
AIを開発している人々が言っていること
フロンティアAI研究所幹部の公的発言は、内部の作業仮定と同じではない。それでも注目に値するのは、この立場の人々の公的発言は通常、投資家対応、規制当局の監視、並外れた主張に対する職業的慎重さの規範によって制約されているからである。.
"We are now confident we know how to build 人工汎用知能 as we have traditionally understood it."
OpenAI CEOのサム・アルトマン · 2025年1月
「私は、人間レベルの知能を全面的に超えるAIまで、あと数年（もしかするとそれより早く）かもしれないと思います。」
Anthropic CEO、ダリオ・アモデイ · 「Machines of Loving Grace」エッセイ · 2024年10月
これらは、内部予測では公表より短いタイムラインを見積もりながら資本配分を決めている人々の、熟慮された公式発言である。人工汎用知能が遠い将来のことだと考えている人々の言葉ではない。.
企業が内部で「変革的AIが目前」との前提に基づきAIインフラに何百億ドルも投じるなら、そのタイムラインは運用上現実のものとなる。PRチームが不確実性を強調しても変わらない。.
日付より分布のほうが重要な理由
人工汎用知能のタイムライン議論に対する自然な反応は、特定の日付に集中することだ。2027年か、2030年か、2040年か。この枠組みは理解できるが誤解を招く。統治にとって重要な問いは「正確にいつか」ではなく、「現在の制度の計画期間内に人工汎用知能が到来する確率はどれほどか」だ。
適切な人工超知能ガバナンスを構築するには実際に何が必要かを考えてみてください：:
- 国際条約の交渉は通常、開始から署名までに数年を要する
- 国際協定の批准と実施にはさらに数年かかる
- 検証と監視のための技術インフラは設計、資金提供、展開されなければならない
- 主要なAI開発国における国内法の制定が必須である
- コンピュートガバナンスの枠組みには、時間をかけて構築された業界コンプライアンスメカニズムが必要です
たとえ並外れた政治的意思があったとしても、ゼロから構築される意味のある国際的な人工超知能ガバナンス枠組みには、最低でも五から十年を要する。人工汎用知能が十年以内に到着する確率が無視できない場合（証拠はそう示唆している）、人工汎用知能が「明らかに差し迫った」状態になってから始まるガバナンスは、時間内に完了しない。.
これはすでに現在の問題である。ガバナンスの窓は無制限でも静的でもなく、狭まりつつある。.
この決定を容易にする非対称性
ここで起こり得る二種類の誤りには非対称性がある。堅牢な人工超知能ガバナンス枠組みを構築しておき、人工汎用知能が予想より遠かった場合のコストは、多少の無駄な努力、AI開発への若干の規制摩擦、そしてその時が来たときに備えた国際機関の整備である。タイムラインが確実になるまでガバナンス構築を待っていて、人工汎用知能がガバナンス不在のまま到来した場合のコストは、回復不能なものになり得る。.
この非対称性は、核兵器が拡散する前に核ガバナンスを動機づけ、オゾン層が崩壊する前にオゾン保護を動機づけ、次の感染症が発生する前にパンデミック対策を動機づけたものと同じです。いずれの場合も、不確実性の下で築かれた制度は、予測されたシナリオが現実化したときにその価値を証明しました。.
"人類は、事前に構築する必要があった機関を事後に構築する記録が乏しい。"
ヨシュア・ベンジオ, チューリング賞 Winner & ノーベル賞受賞者 · 2024
今行動すべき理由は、最も攻撃的な人工汎用知能タイムラインを信じることに依存しません。信頼できる推定値の全範囲（短いものも含む）を真剣に受け止め、その不確実性にふさわしい統治措置で応じることに依存します。.
人工汎用知能の後に来るもの
人工汎用知能は懸念の閾値であって、終点ではない。すべての領域で人間レベルの認知能力に達したシステムは、自らの設計を改善し、再帰的に自己強化する能力を持ち、人工汎用知能から へのタイムラインを大幅に短縮する可能性がある。 人工超知能 数十年ではなく、数ヶ月へ。.
これは、技術に最も近い研究者たちから出された最も深刻な警告の動機となったシナリオだ。人工汎用知能自体ではなく、人工汎用知能の後に起こりうる力学であり、人間の機関が対応できるより速く、制御可能なシステムから制御不能なシステムへ移行する可能性を含む。.
ガバナンスへの含意は直接的だ。枠組みは人工汎用知能閾値が越えられた後ではなく、越えられる前に整っていなければならない。交渉の時期は今であり、すべての当事者がまだ閾値に向かって構築している段階で、誰も越えていない今である。. 中田財団の3つの政策提案 はまさにこの時期のために設計されている。.
最も強い反発
最も公平な反論は、タイムライン予測はこれまで何度も外れてきたので、それに基づいて統治するのはパニックだというものだ。点予測についてはその通りだ。持ち運び可能な事実は、修正の方向性と遅れの非対称性だ。機関には年単位が必要で、能力は四半期単位で跳ねる。閾値がまだ先にあるうちに枠組みを構築せよ。.