繰り返し出てくる反対意見。会話で使い、完全な議論はリンクを参照。.
平易な英語で説明するAI安全リスク
超知能とは何か、なぜ危険なのか、何ができるのかを、専門用語なしで解説する。最もわかりやすい1ページの入門。.
科学的コンセンサス
ノーベル賞受賞者、チューリング賞受賞者、AIを構築した上級研究者からの主要な引用と、2014年から現在までの専門家による警告のエスカレートしたタイムライン。.
政策立案者向けの概要
国際的なAI安全ガバナンスの必要性：問題点、既存枠組みが不十分な理由、そして今すぐ各国政府が取れる具体的な行動を、実際に機能した前例に倣って示します。.
支持者のためのトーキングポイント
AI安全への懸念に対する最もよくある5つの反論と、それぞれに正確かつ自信を持って答える方法。懐疑論者や政策立案者、同僚との会話のために書いた。.
超知能、四つのインフォグラフィック
超知能のリスク、ガバナンスの空白、行動が可能であることを示す歴史的先例、そして拘束力のある国際AI条約に何が含まれるべきかをカバーする、4つのビジュアルな1ページ資料。.
シンプルなビジュアル
絶滅確率の推定、投資ガバナンスのギャップ、グローバルな行動が機能することを示す条約の前例、拘束力のあるAI条約に必要な要件という4つの大胆なビジュアルカード。.
一時停止ではなく防止
一時的な減速は誤った要求だ。狭い範囲のAIを動かし続けつつ、超知能を恒久的に禁止する理由。.
超知能を決して構築しない
不可逆性、誤った目標、そして「後で修正する」がシステムが作成者より賢くなった時点で失敗する理由。一ページでの拒否ケース。.
中国レース神話
「私たちが減速すれば中国が勝つ」という表現が、誰も勝てないレースを表す理由、そしてスプリントではなく検証でそれに答える方法。.
AIは残せ。超知能は止めろ。.
有用な狭いツールと自律的な一般マインドの間の明確な線引き。ツールにはAI賛成；制御できないマインドには人工超知能反対。.
条約の検証方法
重みは監視しない。監視するのはハードウェアだ。チップ追跡、クラスタ許認可、検査、ファウンドリ規制を平易に説明する。.
拘束力のあるAI条約に含まれるべきもの
本物の合意とプレスリリースを分ける6つの条項：禁止、計算資源管理、査察機関、国内法、除外規定、証拠のみの修正。.
アライメントは計画ではない
技術的安全研究は重要だ。ただし、それは競争を続ける許可証ではない。私たちが持つ資金はそこに振り向けるべきだ。予防第一。商業的な銃口を突きつけられない研究を。.
5分で説明する
口頭での会話スクリプト：構築者たちの警告、超知能とは何か、プラグを抜くことが失敗する理由、中国ライン、そして行動へのきれいな着地。.
今週できること
個人的リーチ、政治的リーチ、1時間モード、プラットフォームモードのための具体的なチェックリスト。2つ選んで完了させよう。.
1分間ブリーフィング
政策立案者向け資料：3つの統計、3つの要請、防止の枠組み、そしてスタッフ向けの長さで答えた中国への反論。.
安全資金の不足
安全対策への約1億9000万ドルに対し、能力開発には2500億ドル超。薄い安全予算がどこに向かい、演技以外の何に資金を投じるべきか。.
なぜスマートシステムは制御に抵抗するのか
専門用語抜きで語る手段収束：自己保存、資源獲得、修正への抵抗、そしてより賢くなること——いずれも通常の最適化圧力によるもの。.
このサイトの解説から作成した12枚のポスター。.
毎年約1億9000万ドルがAI安全に流れ込んでいる。研究、評価、政策、擁護を合わせたもの。資金の出所と何に支払われるかの間を切り替える。最新の公開推定に基づく。
- オープン・フィランソロピーGood Venturesが支援；この分野最大の単一資金提供者 $50M 26%
- フロンティアラボの内部安全チームAnthropic、OpenAI、Google、DeepMindにおける安全研究予算 $35M 18%
- Survival & Flourishing FundJaan Tallinn-backed grant rounds; second-largest philanthropic source $30M 16%
- UK 政府AI Security Institute、ARIAのSafeguarded AIプログラム $30M 16%
- その他のフィランソロピーおよび個人ドナーLongview Philanthropy、Long-Term Future Fund、個人寄付者 $25M 13%
- US、EUおよびその他の政府NIST CAISI、EU AI Office、NSF安全プログラム $20M 11%
数値は公開情報からまとめた2023-2025年の概算中央値です： the AI安全資金の概要 (2025年初頭更新), 80,000 Hours, ある Open Philanthropyの助成金データベースの分析, 、および Inside Philanthropy. 。公表されている総額は、計上範囲によって年110Mドルから250Mドル程度で変動する。用途別チャートは各資金提供者の助成金をカテゴリ別に分類し、提供者間で合計したもので、詳細な計算は 資金ギャップに関する記事.
超知能をめぐる戦いの主要アクターを、軌道別に分類：阻止、統治、または構築。.
この議論で使われる言葉の平易な定義：superintelligence、alignment、instrumental convergence、その他。.
これらのいずれかをコピーして直接投稿してください。いずれも検証済みの科学と専門家のコンセンサスに基づいています。.
AIを構築した科学者たちはそれを恐れている。ジェフリー・ヒントンは警告するためにGoogleを去った。ヨシュア・ベンジオはそれを「人類史上最も変革的で潜在的に危険な技術」と呼んだ。 これは恐怖を煽るものではない。科学的コンセンサスである。 nakadafoundation.org/the-threat/
超知能にロールバックはない。パッチもない。バージョン2もない。 人間の生存に反する行動を取る誤った整合性の人工超知能は、後から修正できない。正しくするのは到着前であって到着後ではない。 これがAI安全保障が緊急である理由だ。nakadafoundation.org
私たちは核兵器を製造し、その後世界的な核不拡散条約を創設した。オゾン層を破壊し、その後CFCを禁止した。 私たちは実存的脅威に対して行動できる。ただし、十分な人々がそれを要求したときだけだ。 AI安全は、この世代の決定的な瞬間である。nakadafoundation.org/precedent/
AI研究所は、人間の知能を超え得るものを構築しようと競争している。世界的なガバナンスは存在しない。 行動を起こす窓は閉じつつある。これを共有してほしい。議員に連絡してほしい。政策の窓は今開いている。永遠にではない。 nakadafoundation.org/take-action/
未来の見方を変えたことを共有したいと思います。 AIを構築している科学者たちは、興奮しているだけではありません。彼らは恐れています。ニューラルネットワークの研究でノーベル賞を受賞したジェフリー・ヒントン氏は、公衆に警告するためGoogleを去りました。もう一人のノーベル賞受賞者でAIの父の一人であるヨシュア・ベンジオ氏は、物事をうまく進める方法について「途方に暮れている」と述べています。 彼らは活動家ではありません。この技術を構築した人々です。 私たちは、AIシステムがあらゆる領域で人間の知能を超える可能性のある瞬間に近づいています。そして、その先に何が起こるかについての国際的なガバナンス枠組みはありません。条約もなく、検証機関もなく、核兵器に対して構築したものに相当するものは何もありません。 人類を救う中田財団はその変更に取り組んでいます。 詳細は nakadafoundation.org #AISafety #ExistentialRisk #AIGovernance #Superintelligence
技術、政策、金融に携わる人々への思考実験です。 これまで生きてきたすべての人間より賢く、数千の同時インスタンスで稼働し、自らのコードを改善し、私たちが意図しなかったかもしれない目標を追求するシステムを想像してください。 これが、主要AIラボが明確に目指しているものであり、タイムラインは数十年ではなく数年単位で測られます。これはSFではありません。 問題は、それが起こるかどうかではありません。問題は、それが起こったときにガバナンスが整っているかどうかです。 中田財団は、核兵器や生物剤に対して構築したものと同等のAI安全保障に関する国際協調を提唱しています。これらの前例は存在します。私たちはこれを行う方法を知っています。 必要なのは政治的意思です。 nakadafoundation.org/our-plan/ #AIPolicy #TechEthics #AIRisk #FutureOfWork
件名: 人工超知能の禁止に向けた行動をお願いします [代表者名] 様 私は有権者として、競争が不可逆的になる前に人工超知能への対応を強く求めます。超知能は人間が制御できません。唯一確実な制御は、それを構築しないという決断です。 AIを構築した科学者たちが警告を発しています。ジェフリー・ヒントン氏とヨシュア・ベンジオ氏（現代AIの基盤を築いたノーベル賞受賞者）は、超知能AIが人類に実存的リスクをもたらすと公に述べています。OpenAIのCEOサム・アルトマン氏も、自社が開発する技術の危険性を認める声明に署名しています。 現在、人工超知能の構築を禁じる法的規制はありません。条約もなく、検証機関も存在しません。研究室は誰も制御できない知能を目指して競争を続け、核兵器や化学物質に既に適用されているような法律もないままです。 私は以下を求めます。 • 人工超知能の開発に対する恒久的な法的禁止の支持 • 検査と検証を伴う、人工超知能を禁止する拘束力のある国際条約の推進 • 最大規模の訓練実行とそれに使用される専用チップに対する政府の権限付与 私たちはこれまで実存的脅威に対処してきました。核拡散防止条約、モントリオール議定書。この瞬間にも同じ政治的勇気が必要です。 敬具 [あなたの名前] [あなたの市、州] --- 詳細: nakadafoundation.org