Drop me into 1958 and I do not think I would have hesitated. I would have spent my life trying to keep the world from ending. My foundation would have worked on keeping the United States and the Soviet Union from a thermonuclear war, not out of any special courage, but because that was the fight that decided whether there would be a future to argue about at all. Every other cause sat downstream of it.
私はその闘いに参加できなかった。爆弾は作られ、狙われ、1945年以降は都市に対して二度と使われていない。その「今まで」を成立させてきた人々——冷戦を通じて実験禁止、ホットライン、検証体制を構築し、恐ろしい対立が最終的なものになるのを防いだ人々——は、20世紀で最も重要な仕事の一部を行った。彼らのほとんどはそれで有名になることはない。予防は本質的に静かなものだ。機能するとき、何も起こらず、何も起こらないことは記念碑に刻むのが難しい。.
同じ形、新しい武器
When I say we are living through a new 冷戦, I mean the same shape: the United States and China racing toward a technology neither can let the other reach first, that could end the human story if it goes wrong, and that no one racing can honestly claim to control. Swap the hydrogen bomb for artificial superintelligence and you have 1958 and 2026 in one sentence.
私だけがその残響を聞いているわけではない。六月、CIA長官はワシントンの聴衆に対し、今日の最先端AIの能力をそう呼ぶのは的外れではないと語った。 "デジタル核兵器。"
違いは誤った方向に進む
当時と今には本当の違いがあり、それが私を夜も眠れなくさせる部分だ。そのほとんどすべてが、我々の状況をより良くではなく、より困難にしている。核兵器は人間の手の中に留まる。超知能は しないだろう. 。核物質は物理的であるため採掘・計数可能だ。一方、AIの入力はチップとコードであり、目に見えにくく隠しやすい。ただし、 統治不可能ではない. 。そして冷戦が参加者に与えたのは、時間という、私たちが得られないかもしれないものだった。世界は広島を消化し、恐怖を腹の底に感じ、対応する制度を築くのに何年もかかった。AI能力は、私たちが持つどの制度よりも速く複合している。.
冷戦が実際に証明したこと
しかし同じ時代が、加速論者たちが最も依拠する主張を打ち砕きました。すなわち、互いを信用しないライバル同士は決して足を止めることに合意できないというものです。ワシントンとモスクワは互いを全く信用していませんでしたが、それでも拘束力があり検証可能な軍備管理協定に署名しました。両国とも、無制限の競争が双方を等しく縛る規則よりも悪化させることを理解していたからです。不信こそが条約の理由であって、障害ではありませんでした。数万発の核弾頭を互いの都市に向け合っていた二国がその論理を見出せたなら、米国と中国がAIについて同じことをできないという自信たっぷりの主張は、冷徹な現実主義を装った、継続への言い訳にすぎません。.
なぜ財団が存在するのか
その戦いに相当するものが私の世代に降りかかり、今度こそ私はここにいる。私は、自分自身を狙える兵器を造りながら、ずっと「選択の余地がなかった」と自分に言い聞かせ続けた世代の一員になることを拒否する。
冷戦の最悪の事態を防いだ人々は、どんなに「現実を知らない」と非難されても、「ある種の技術は競争に任せるには危険すぎる」と主張し続けました。彼らは当時正しかった。今、唯一重要な仕事は、再び正しく、そして間に合うように正しくあることです。.