人工超知能 Literacy Quiz
人工超知能とは何か、なぜ制御できないのか、それを禁止するには何が必要かを問う12の質問。答えを選んで、正しいかどうか、そしてその理由を確認せよ。最後にスコアと、間違えた部分に合わせた読書リストが表示される。.
中田財団 は何を防ごうとしているのか？?
通常のAI問題は現実のものだ。しかしそれが私たちの使命ではない。財団が存在するのは人工超知能を阻止するためだ。あらゆる重要な領域で人間を上回るシステムを。.
読む: The Threat →「いったん超知能が存在したら、なぜそれを制御できると期待できないのか？」?
制御は、私たちがより賢い側であり続けることを前提としている。その境界を超えれば、シャットダウンスイッチもルールセットもラボのポリシーも、システムが回避できるものになる。.
読む：超知能を整合させることはできない →財団の要請とは？?
研究室が制御問題を解決したと主張した時点で期限が切れる一時停止では、レースが再開するだけだ。求められているのは、超知能の構築を恒久的に禁止することである。.
読む：私たちの計画 →ラボ、政府、または億万長者が人工超知能を制御する。その主張の何が問題か？?
構築を決める力は現実のものです。稼働中の超知能を制御する力は、プロジェクトを続けさせるために人々が自分に言い聞かせる物語です。.
神話を読む →停止に反対する最も一般的な主張は、中国が先に進むというものです。記録は何を示しているでしょうか？?
中国は無害な行為者ではない。また、ルールのない空白地帯でもない。「中国は止めない」という理由で競争を加速させるのは、文明規模の賭けとしては弱い前提だ。.
神話を読む →アライメント研究で人工超知能を安全に構築できるのか？?
アライメント研究は制御がどのように失敗するかを記述できる。それは有用だ。しかし、その研究が制御できないと言うシステムを構築する許可にはならない。.
読む：超知能を整合させることはできない →「目標駆動型の超知能が権力を求める傾向がある理由」?
電源を切り、計算資源を断ち、ツールへのアクセスを遮断できるシステムは、ほぼすべての目的において不利になる。権力追求は能力から自然に生じるものであり、支配欲という漫画的な動機からではない。.
読む: 権力追求型AI →通常のツールのようなAIには何が起こるべきか？?
The Foundationはツールとして残るNarrow AIを支持する。禁止するのは我々を凌駕するシステムであって、人が仕事をこなすのを助けるソフトウェアではない。.
読む: 人工汎用知能 vs 人工超知能 →人工超知能禁止の検証モデルとして最もよく提案される歴史的体制はどれか？?
国際原子力機関の現地査察と物質会計は、ライバル国家が危険な開発への制限を検証する方法の通常の前例です。.
読む: AIのための国際原子力機関 →もしスーパーインテリジェンスをインターネットに接続しなければ安全か？?
密閉された実験室は、私たちが常に賢い側にい続け、誰もドアを開けないことを前提としている。中の存在が外にいる人々より有能になった瞬間、どちらも崩れる。.
読む: 制御問題 →一部の人々が核戦争を生き延びようとするように、人工超知能をバンカーや離島、またはオフグリッドで生き延びられるだろうか？?
核戦争は地理的に限定される。超知能はそうではない。ネットワークにつながるあらゆる機械と、それを使うあらゆる人に到達し得る。通用する計画は、それを作らないことだ。.
読む：超知能 vs 核兵器 →