Reference Document · 2026
科学的コンセンサス
AIリスクについて
人工知能を構築した人々が私たちに警告を発しています。彼らが何を言い、誰であるかをご紹介します。.
「人類が知能の進化における一過性の段階に過ぎないことは十分あり得ると思う」ジェフリー・ヒントン 2024年ノーベル物理学賞 · 2018年チューリング賞
元副社長兼エンジニアリングフェロー、Google · 2023
「AIの安全策が不十分なまま加速的に展開される強力な力がある中で、何をすれば事態を好転させられるのか、途方に暮れています。」ヨシュア・ベンジオ 2024年ノーベル物理学賞 · 2018年チューリング賞
科学研究ディレクター、Mila · 2023
「AIの標準モデル、目的を定義しAIがそれを最適化するものは、おそらく私たちの終わりになるだろう。」スチュアート・ラッセル Professor of Computer Science, UC Berkeley
Co-author, standard AI textbook
「私はますます、この問題がAI安全保障が解決可能かどうか、そしてどのようなタイムラインであれ、今世紀で最も重要な問題かもしれないと確信している。」イリヤ・サツケヴァー Co-founder, OpenAI · Chief Scientist 2015-2024
現代のディープラーニングの設計者の一人
"我々は人類史上最も変革的で潜在的に危険な技術の一つを構築しているのに、ポーズボタンを押すことができないようだ。"ヨシュア・ベンジオ ノーベル賞受賞者 · Mila · 2023
"AIの安全性は気候変動よりも重要です。"ジェフリー・ヒントン ノーベル賞受賞者 · Former Google
Global platform statement, 2024
エスカレートする専門家警告のタイムライン
2014
ニック・ボストロム 出版 超知能, 、人工超知能による実存的リスクに関する初の厳密な学術的分析。オックスフォード大学の哲学者。イーロン・マスクとビル・ゲイツが必読書として挙げている。.
2018
Hinton、Bengio、LeCunが現代の深層学習の基礎を築いた功績でチューリング賞を受賞。その後3人とも、自分たちが生み出した技術の安全性について懸念を表明する。.
2023
Center for AI SafetyがAI絶滅リスク声明を発表。500人以上の科学者が署名。一方、Future of Life Instituteが開発一時停止を求める公開書簡を発表し、チューリング賞受賞者を含む3万3000人以上が署名した。.
2024
HintonとBengioがノーベル物理学賞を受賞。両者とも世界的な舞台を活用してAI安全警告を強調した。Hintonは安全は今や「気候変動より重要」と述べた。