拘束力のある国際条約は、技術的進歩を続けながら人類を救うことができる。.
私たちは、人間の知能を超え、修正や停止が不可能なシステムに反対する慈善キャンペーンです。. 人類はスーパーインテリジェンスを決して構築してはならない.
人間の能力をあらゆる領域で意図的に超え、置き換えるために育てられた単一のシステムは危険です。Artificial superintelligenceは人類にとって最大のリスクであり、地球規模の熱核戦争よりも深刻です。核戦争は文明を終わらせても生存者を残す可能性があります。superintelligenceは私たちの種を絶滅させます。.
私たちは、化学兵器・核不拡散・オゾン層に関する国際条約や世論キャンペーンなど、世界を動かした実績ある手法をモデルにしている。.
私たちは完全に独立しており、AIラボ、その投資家、あるいは最先端競争に依存する企業から一切の資金を受け取っていない。.
メディアは世論を形成し、危機を無視しにくくする文化を生み出す強力な手段だ。投票する市民や、私たちが選ぶ指導者の心に影響を与える。 Ronald Reagan 1983年の映画を観た その翌日, 核戦争という抽象概念が具体的なものとなり、大統領は後にソ連と核保有量削減の拘束力ある条約に署名した。.
「より安全な競争」や「安全な移行」に取り組む組織は多い。私たちは、拘束力のある法律の下で人工超知能を止めるために緊急に動いている数少ない組織のひとつだ。「移行」は決して起こしてはならない。.
私たちは「反AI」の組織ではありません。がんを診断したり創薬を加速したりする、制御された有益な狭いAIは支持しています。そうしたシステムは一つの領域でのみ人間の能力を超え、その作業を安全に管理して人類に利益をもたらせます。.
当財団は人工超知能の防止に特化して活動している。拘束力ある国際条約を実現するための公共活動を行い、映画、動画、エッセイ、画像、文化指導者との関係構築を委託している。また、才能と資金をアライメント研究から人工超知能防止へ移すことも目指している。.
我々は技術研究、政策分析、ロビイングを行わない。.
また、チャットボット、雇用自動化、軍事ドローン、データセンターなどの一般的なAIトピックについては立場を取らない。.
私たちはUSを基盤とする philanthropic association である。2026年8月現在、501(c)(3)資格取得のための fiscal sponsorship 手続きを進めている。手続き完了後はすべての寄付が税控除対象となる。.
私たちは少人数の諮問委員会を編成している。特に求めているのは、公共利益コミュニケーション、資金調達、文化制作の経験を持つ人々だ。.
大きな影響を達成することは、私たちの最重要目標の一つである。私たちの成果はX上のインプレッションやYouTube動画の視聴回数など公開され測定可能であり、それを有権者の世論感情と照らし合わせて追跡する。.
中田直人 は冷戦中に核条約の活動に資金を提供しただろう。私たちの創設者は、超知能を今日の存在論的危機と見なしている。.
数十年にわたるAI安全研究の後、結論は、私たちより賢いものを制御できないということだ。一方、 その分野 still goes toward "safer" frontier systems while they still get built. Stopping artificial superintelligence before it exists is still critically underfunded and underdiscussed, with only 世界で人工超知能防止に特化した組織はわずか7つ.
私たちはそのギャップに対応して財団を立ち上げ、脅威の緊急性と重大さを明確にする印象的な名前を付けました。.
人類の物語はまだ始まったばかりだ。我々はそれを今後何億年も続けさせなければならない。.
中田直人
いいえ。我々は有用な狭いAIを支持する。仕事をこなし、修正可能なシステムだ。我々が防ごうとしているのは、開かれた能力が別次元に達する人工超知能である。スマートフォン、インターネット、原子力発電所でさえ規制し停止できる。超知能はそうはいかない。.
われわれは特異である。われわれは人工超知能と、それに対する条約を可能にする文化的作業に取り組む。チャットボットのバイアス、自動化による雇用喪失、ディープフェイク、軍事ドローン、データセンターの立地：それらは他では重要かもしれないが、この財団の仕事ではない。人工超知能の防止に関わらない質問は、この財団の範囲外である。.
最もよく聞かれる反論は、核不拡散に対するものと同じ形をしている。核拡散防止条約は不完全だが、それでも機能した。1945年以降、核兵器が戦争で使われたことはなく、数百カ国が保有し得たのに実際には9カ国にとどまっている。離脱リスクは、検証を強化する理由であって、開発競争を加速させる理由ではない。フロンティアモデルの訓練は依然として少数のチップメーカーを経由する。計算量の閾値を監視することは、物理学の問題というより政治の問題だ。.
はい。彼らには営業チーム、投資家向け広報部門、株主を代表する取締役会メンバー、競合他社より早く製品を出荷する競争圧力もあります。商業AIラボ内の安全チームは、会社の他の部署と同じインセンティブに縛られており、そのインセンティブはリスク低減よりも能力の出荷を報います。OpenAIの安全チームが動きが速すぎると懸念を公表したときも、会社はさらに速く動きました。せいぜい内部チームは外部規制を補完するものであり、その代わりにはなりません。.
現代AIの基盤を築いたチューリング賞受賞者ジェフリー・ヒントンは、 AIが人類を絶滅させる確率は10〜20パーセント 今世紀中に。ノーベル賞受賞者ヨシュア・ベンジオは、リスクは現実的かつ過小評価されていると公に述べている。Center for AI Safetyの2023年声明は、サム・アルトマンを含む500人以上のAI研究者が署名し、AIによる絶滅リスクを核戦争やパンデミックと並ぶ地球規模の優先課題として位置づけた。.
財団に参加してください。まだ知らない人に私たちのメッセージを伝えてください。選出された代表者に連絡し、AIリスクに対する立場や支持している立法について尋ねてください。経済的余裕があれば、財団または人工超知能防止に取り組む他の6団体への寄付を検討してください。文化的またはメディア上の影響力をお持ちなら、それを行使してください。AI研究所で働いていて懸念があるなら、公に発言することを検討してください。政治的意思がこれを決めるのであり、それはあなたのような人々から生まれるのです。.
最新情報を入手し、この大義に必要な圧力を構築する手助けをする。.