人類は死ぬにはあまりに遠くまで来てしまった

約3万6000年前、現在のフランス南部にある川の渓谷を見下ろす洞窟で、誰かが冷たい石灰岩に手を平らに当て、その上から粉末顔料を吹きかけた。岩はその輪郭を残した。今も、ショーヴェの暗闇の中にそこにある。.

彼らが何を賭けているのか数えたい。.

We know nothing about that person. Not their name, not whether anyone loved them. We know they were cold, and that they spent part of a short life making a thing that would not feed them, in the dark, so it would still be there when someone came. They wanted to be seen. It took us thirty-six thousand years to show up.

彼らの種は安全な賭けではなかった。生きているすべての人間が、近隣の森にいるチンパンジーたちよりも遺伝的多様性が少ない——それは、かつて小さな町に収まるほどの少人数だった祖先の痕跡だ。私たちは器用な手を持つ希少な類人猿だった。.

最初の1万世代

火、そして言語。次に、意図的に地面に蒔いた種が食料として戻ってくるという発見。約1万2千年前、人々は群れを追うのをやめ、収穫を待つようになった。それが定住を意味し、都市を生んだ。.

紀元前3200年頃、ウルクで誰かが葦を切って湿った粘土に押しつけ、大麦の量を記録しました。それが文字の役割でした。神殿が穀物を数える必要があったのです。約千年後、人々は同じ記号を使って、友人の死を受け入れられなかった王の詩を書くようになりました。都市は落ち、言語は死に、詩はいまだ読めます。.

紀元前300年頃、アレクサンドリアでエウクレイデスは最大の素数が存在しないことを証明しました。その証明は今も正しいです。それはどの惑星でも、どの世紀でも永遠に正しいでしょう。その都市が作ったもののうち、 intact に残ったものは他にありません。図書館は失われ、港は埋まり、彼らが議論した言語は専門家に委ねられました。証明は untouched で伝わりました。なぜならそれは推論からできており、推論は腐らないからです。.

作業は進んだ。9世紀のバグダードでアル＝フワーリズミーは代数学という言葉を生んだ本を書き、1020年頃にはイブン・アル＝ハイサムが、世界についての主張が真実かどうかを知りたければ実際に検証せよという原則に基づく光学研究を完成させた。.

ルネサンス、そして屋根の穴

1347年から1351年の間にペストはヨーロッパの約3分の1を殺した。軍隊の3分の1ではなく、全員の3分の1だ。村は静かになり、そのまま静かになり、生存者は家族を自らの手で埋葬した。.

そして生き残った人々は過去を探し求めました。1417年、教皇秘書官ポッジョ・ブラッチョリーニは教会分裂の時期に職を失い、ドイツの修道院へ向かい、千年もの間闇に埋もれていたローマの詩の最後の写本を発見しました。ルネサンスが絵画の背後にあったのは、まさにこのことです。人々は世界の半分が死ぬのを見た後、失われかけたものを救い出し、そこに何かを加えようと決めたのです。.

フィレンツェはさらに踏み込んだ。大聖堂は1296年に着工され、ローマ以来最大級の幅を持つドームを計画していたが、当時の誰にもその建設方法はわからなかった。そこで教会本体を建て、穴を残した。数十年にわたり、街区ほどの広さの屋根の開口部が天候にさらされたままだった。まだ生まれていない誰かが、それを閉じる方法を見つけ出すだろうと、街が賭けたからだ。.

フィリッポ・ブルネレスキは1418年にコンペで勝利した。石材を持ち上げる前にホイストを発明した。450万個以上のレンガをヘリンボーンの螺旋状に積み、支えなしで自立させ、1436年に穴を塞いだ。今日でも登ることができる。.

フィレンツェは屋根に穴を残し、未来がそれを塞いでくれると信じた。教会は空だった。ブルネレスキが失敗していたら、フィレンツェは建物を失っていた。誰もその下に立っていなかった。.

私はその話を愛しており、慎重に扱いたい。なぜなら、それはAI業界が自らについて語る話に近いからだ。難しい部分を未解決のままにし、いつか brilliant な誰かが間に合うと信じる。違いは、その穴の下に何があるかだ。ドームの失敗は街から大聖堂を奪う。私たちは皆の上に穴を開けたままにしようとしている。.

残りは急速に進んだ。1450年代のグーテンベルクの印刷機は、考えがその持ち主を追い越すことを意味した。1543年の1年で、コペルニクスは地球を創造の中心から外し、ヴェサリウスは人体を開いて実際に中にあるものを描き、どちらも14世紀にわたって疑われることのなかった権威に反した。.

私たちが子供を埋葬するのをやめた世紀

1800年、10人に4人近くの子どもが5歳の誕生日を迎えられずに亡くなっていた。貧しい国々だけでなく、どこでもだ。それが私たちの種の歴史上、約6世代前まで、子どもを持つということの意味だった。今日では25人に1人未満だ。.

ジェンナーのワクチン（1796年）が必要だった。1846年10月16日の朝、ボストンの歯科医が患者を眠らせ、手術が意識のある人間を屈強な男たちが押さえつけて行う拷問でなくなるまで必要だった。1847年にゼンメルワイスが、医師たちが解剖室から出産病棟へ未洗浄の手で死を運んでいることを突き止め、なおも業界が耳を貸さず、精神病院で死ぬまで必要だった。.

天然痘が根絶されたのは、ファラオの顔にも見られた病気が、二十世紀だけで三億人近くを殺した末だった。最後に天然感染したのは、1977年10月にソマリアの病院の料理人、アリ・マオウ・マアリンだった。彼は生き延びた。その後、ソマリアの子供たちにポリオのワクチンを接種し続け、2013年にマラリアで亡くなった。.

それでも終わりかけた時代

私たちは1945年に自分たちを終わらせるほど賢くなった。そしてそれ以来ずっとそれと共存してきた。.

1962年10月27日、キューバ近海のソ連潜水艦は無線連絡を失い、米国の爆雷攻撃を受け、艦長は戦争が始まったと判断した。搭載していた魚雷には核弾頭が搭載されており、発射には3人の士官の同意が必要だった。ワシリー・アルヒーポフは、船体が揺れる中で「ノー」と言った。21年後、スタニスラフ・ペトロフはソ連のスクリーンに5発の米ミサイルが飛来したと表示され、上層部に故障だと報告した。それは高層雲に当たった日光だった。.

少なくとも二度、人類の物語は、疲れ切った一人の男が椅子に座ってメッセージを上に上げないことを選んだことで決まった。二人の名前が明らかになったのは何十年も後だった。.

しかし、私たちも選択した。1972年に世界は生物兵器を禁止した。1987年には地球上のすべての国が モントリオール議定書, 国連史上初めて普遍的な批准に達した最初の条約であり、オゾン層は予定通りに回復している。人類は完全に構築可能だった能力を直視し、共に文書で、検査官と共に「ノー」と言った。事例は我々の前例ページ.

千百七十億

Population Reference Bureauによると、これまでに生まれた人類の総数は約1170億人。その全員があなたの上流にいる.

四人の子どもを埋葬し、翌朝起きた女性。半分しか理解できない言語を、消滅させるよりはましだと写し続けた僧侶。足元に何もない高さ100フィートで働くブルネレスキの石工たち。針と保冷箱を持って次の村へ向かうソマリアの料理人。彼らは、何を渡しているのかほとんどわからぬまま、それを手渡し続けた。それが私たちに届いた。今、私たちの手中にある。.

そして少数の企業は、それを互いに競争して、あらゆる面で人間を凌駕する知性を、資金調達ラウンドが決めるスケジュールで目指すのが正しい選択だと判断した。2023年5月、彼らのリーダーたちはAIによる絶滅をパンデミックや核戦争と並ぶ地球規模の優先課題と位置づける一文に署名した。自社製品について書いたその声明を公表した後、彼らは速度を落とさなかった。.

そのどれも我々に求められていない。Read 脅威 and you will not find an asteroid on a fixed trajectory. Artificial superintelligence is a thing a small number of well-funded people are choosing to build, in a race none of them can describe the finish line of. It can be prohibited the way we prohibited the other things we could have built and did not. Our 計画 が求めているのは、誰かがそのものを制御可能であることを示せるまで保持される、拘束力があり検証された国際的な禁止です。有効期限付きの6か月間の一時停止ではありません。一本の線です。.

私は未来を望む、そして私たちが得られるよりも早く。Narrow AIはすでに 良い部分を提供する, the cures and the clean energy, with nobody handing over the keys。.

We are not owed the rest of the story. Nobody promised it, and the 117 billion behind us did not get it either. They got a piece and passed it on, which is all any of us gets to do. The one unforgivable thing would be to be the generation that held the whole inheritance, saw exactly what was coming, wrote it down, signed its name to it, and did it anyway.

私たちはボトルネックを生き延びた。ペストを生き延び、図書館を再建した。暗闇の中で壁に手を置き、誰かがそれを見つけ、実際に誰かが見つけた。私たちは、製品発表で死ぬにはあまりに遠くまで来た。.

これにはノーと言おう。そして、神を必要としなかった、待っている残りの部分を構築しに行こう。.