「私たちが超知能の構築をやめれば、他の誰かがそうするでしょう。」それは、100 の部屋での会話の主役です。地理とゲーム理論のような気がします。多くの場合、これはビルドが避けられないとしながらもビルドを続ける方法です。すでに扱っている技術で同じ形状を試してみましょう。 「もし私たちがフロンガス冷蔵庫の製造をやめたら、他の誰かが冷蔵庫を作り続けることになるでしょう。」
はい、彼らは冷蔵庫を作り続け、空に穴を開けていた化学物質の使用をやめました。
2つの異なる名詞
冷蔵庫はサービスだ。冷たい食品、ワクチン、腐敗の低減。クロロフルオロカーボンはそのサービスを実現する一つの方法だったが、化学的影響が明らかになった時点でオゾン層にとって災厄となった。 モントリオール議定書 風邪を禁止しなかった。被害をもたらす物質の段階的廃止を計画し、貧しい国に代替物質に資金を提供し、貿易圧力でこの協定を支持した。業界は段階的廃止は不可能だと主張していた。冷蔵は継続されましたが、CFC は継続されませんでした。
スーパーインテリジェンスのレトリックは、2つの名詞を1つに崩壊させます。「AI」は、がんモデル、ルートプランナー、および人間種よりも賢い仮説上のエージェントを含む単一のブロブになります。あなたが最後のアイテムを拒否した場合、加速主義者は、あなたも最初のアイテムを拒否したと言います。そして、それほど慎重でない人がそれをすべて出荷します。毒を取り除くことは、製品に対する戦争のように聞こえるように、毒が製品と同じであるふりをすることです。
競合他社よりも多くのCFCを使用してオゾン層を救ったわけではありません。私たちは冷蔵庫を保管し、化学薬品を廃棄しました。
「誰か他の人がやるだろう」が何のためか
ライバルのラボ、またはライバルの州は、あなたが引くどの線を通っても訓練しようとするかもしれません。その可能性は、計画するのに十分なほど現実的です。それはまた、軍備管理が扱うために発明された可能性でもあります。「他の誰かが核兵器を作るかもしれない」という答えは、「それならもっと大きな核兵器を作らなければならない」というものではありませんでした。「それは検証、核分裂性物質のチョークポイント、そしてブレイクアウトの結果でした。
計算資源はウランより扱いにくい。真剣な誰もがそう認めている。それでも物理的で、先端では高価であり、少数のチップメーカー、工場、クラウドリージョンを経由する。それだけで検査の基盤を築ける理由であり、だからこそ コンピュート・ガバナンス はすべての真剣な条約のスケッチに登場する。「誰か他の者がやるだろう」はその作業を飛ばして、直接許可に行く。
拘束が一方的な降伏として組み立てられるなら、大人の唯一の姿勢は全速力です。投資家は運命を聞く。安全担当者は速度を落とすのは甘いと聞いている。研究室のリーダーはメカニズムに関する議論に勝つ必要はありません。 3 番目の選択肢である共有の抑制を子供っぽいと感じさせるだけで済みます。
冷蔵庫は敵ではなかった
私たちは、診断や創薬、橋梁の欠陥発見を行う狭いAIを望んでいます。そのことをはっきり述べ、誤った非難が定着しないようにしましょう。財団の立場は、 人間の制御を超え、置き換えるシステム 制御問題が未解決である一方で。
それは「他の冷媒を使う」方に近く、「冷蔵を禁止する」方ではない。その区別を崩す人々は、有用なAIの人気を利用して、道具のままでは終わらない能力を覆い隠している。
オゾン問題との闘いが実際に教えること
モントリオールが機能したのは、科学が騒がれ、代替品が存在し、ホールドアウトが貿易コストに直面していたからである。超知能は「戦略的優位性」の代替となるものを見つけるのが難しく、ある点では AI リーダーが無視するのが簡単です。 no major power has a coherent interest 誰の指揮下にも置かれないシステムの中で。脆弱性の共有は取引の材料となります。 ライバルへの恐怖は、スプリントに資金を提供するのと同じくらい簡単に条約に資金を提供することができます, 、中空の仕上げが表示されたら。
有用なAIかスーパーインテリジェンスのどちらを意味するのかを尋ねます。私たちはツールを保持し、誰も制御できないシステムを停止します。スーパーインテリジェンスにとって、脱退リスクは強制力を構築する理由であり、事前に脱退する理由ではありません。冷蔵庫は動き続けた。人々が違いを見分けることができたので、空は癒されました。