ビジュアル・インフォグラフィックス。.

各ポスターは中田財団のAI安全解説とキャンペーンページから抜粋した。専門家滅亡確率の範囲、歴史的な条約の前例（核拡散防止条約、モントリオール議定書、化学兵器禁止条約）、そして拘束力のある超知能禁止への道筋は、本サイトの情報源と一致する。講演、授業、ブリーフィング、SNS投稿などで活用してほしい。.

解説

ペーパークリップ・マキシマイザー

なぜ間違った目標を持つ有能なAIが、憎しみなく世界を終わらせることができるのか。.

PNGをダウンロード 関連ページ →

解説

直交性テーゼ

「なぜより賢いAIが自動的に安全または優しい目標を意味しないのか。」.

PNGをダウンロード 関連ページ →

解説

AIアライメント問題

AIに指定するものと、人類が実際に必要とする結果との間のギャップ。.

PNGをダウンロード 関連ページ →

解説

裏切りターン

どうすれば、ミスアラインドなシステムが、離反が最適になるまであらゆる安全テストを通過できるのか。.

PNGをダウンロード 関連ページ →

研究

漸進的権力剥奪

人類が一見合理的な決定を積み重ねて制御を失う方法——ブレークアウトの瞬間なしに。.

PNGをダウンロード 関連ページ →

分析

超知能競争は神話である

なぜ超知能をめぐる競争には、誰にも所有したり指揮したりできない勝者など存在しないのか。.

PNGをダウンロード 関連ページ →

前例

以前にも成し遂げた

核拡散防止条約、モントリオール議定書、CWCは、存在リスクに関する国際協調が可能であることを示している。.

PNGをダウンロード 関連ページ →

私たちの計画

私たちの計画：条約への道

今日の競争から、拘束力のある超知能条約、監視、執行へ.

PNGをダウンロード 関連ページ →

解説

滅亡確率とは？?

壊滅的なAIの結果に関する専門家の確率範囲—そして、小さな確率でもなぜ行動を必要とするのか。.

PNGをダウンロード 関連ページ →

行動する

行動を起こす：自分の役割を選ぶ

拘束力のあるAI安全条約を支える連合を築くための具体的な役割。.

PNGをダウンロード 関連ページ →

解説

知能爆発

再帰的自己改善と、人間レベルから回復不能までの窓が急速に閉じる理由。.

PNGをダウンロード 関連ページ →

脅威

超知能が他のリスクと異なる理由

表面的な安心 vs 超知能リスクの深いメカニズム。.

PNGをダウンロード 関連ページ →

← リソースに戻る