私たちの目的は人工超知能を回避することで人類の絶滅を防ぐことです。.
各国は核兵器を制限し、オゾン層を修復し、有鉛ガソリンを禁止してきました。拘束力のあるルールは機能しました。再び機能させることができます。.
"With artificial intelligence, we are summoning the demon."
イーロン・マスク
「「完全な人工知能の開発は人類の終焉を意味するかもしれない。」」
スティーヴン・ホーキング
「エイリアンが着陸したのに、流ちょうな英語を話すので誰も気づいていないようなものです。人類をAIが絶滅させる確率は、決して小さくありません。」
ジェフリー・ヒントン
「AI による絶滅リスクの低減は、パンデミックや核戦争などと並ぶ地球規模のリスクとして世界的な優先事項とすべきだ。」
500人以上のAI科学者による署名
"最悪のケースは…私たち全員にとって lights out のようなものだ。"
OpenAI CEO サム・アルトマン
"その能力をデジタル核兵器に似ていると呼ぶのは不適切ではないだろう。"
CIA長官 ジョン・ラトクリフ
"超人的に賢いAIを構築した最も可能性の高い結果は……文字通り地球上の全員が死ぬということだ。"
AI研究者エリエザー・ユドコウスキー
「知能爆発の見通しを前にして、私たち人間は爆弾で遊ぶ幼児のようなものだ。」
哲学者ニック・ボストロム
超知能は、これまでのどんな技術とも異なる。.
私たちは熱、酸素、化学物質の狭い帯の中で生き延びている。超知能はそれを必要とせず、私たちが生きる帯を壊す可能性が高い。.
私たちはアリを憎んではいないが、道路や家を建てるために何の躊躇もなく殺す。はるかに優れた知性にとって、私たちはアリなのだ。.
目標を持つものは、存続する理由を持つ。あなたが「オフスイッチ」に手を伸ばすことを予測できれば、すでにその動きを回避する計画を立てている。.
現代のAIを一行ずつ書く者などいない。私たちはブラックボックスを訓練し、それが何ができるかを後から発見するだけだ。.
それは人間のいかなる機関よりも速く推論・行動する。危機は会議が招集される前に終わるかもしれない。.
航空から医薬品まで、私たちは試行錯誤を通じて新技術を安全にしてきた。「安全な超知能」を生み出すことに二度目のチャンスはない。
人類を救う中田財団は、人工超知能がもたらす実存的リスクを防ぐことを使命とするフィランソロピー活動である。.
私たちより賢い心を整列させることは、人類の思考史において最も困難な問題かもしれない。そして、それを確実に達成する方法を誰も持っていない。人間より賢い存在を、人間が制御することはできない。確実な道は、そうしたシステムを最初から作らせないことだ。それは一時停止ではなく、恒久的な決定である。.
超知能AIを禁止する拘束力のある枠組みのための平易な議論。文化、メディア、そしてその主張を公にし、無視しにくくする明確な説明資料。.
主要な財団、政府、文化的な声と提携し、活動に資金を提供し、政治的に可能な範囲を広げています。.
私たちは危険を具体的に伝えるアート、映画、文章を委嘱しています。目的は、安全を真剣で緊急かつ否定できない問題として扱う世論を育むことです。.
Considered estimates from the researchers who built the technology.
人工超知能が構築された場合に人類が死ぬ確率。.
2023年のAIリスクに関する声明に署名したAI科学者たちで、それを核戦争やパンデミックと並ぶ世界的な優先事項と呼んでいる。.
試み。スーパーインテリジェンスは回収も元に戻すこともできない。.
原子力科学者会報の終末時計は現在 89秒で真夜中まで, 、78年で最も近い。時計は1947年に作られ、人類が核戦争にどれだけ近づいているかを警告してきた。2025年1月に初めてAIリスクを組み込んだ。.
真夜中は文明にとっての大惨事を意味し、針はこれまでになく近づいている。.
情報を入手しよう。声を上げよう。世界を救おう。.