Ang nuclear weapon ay isang disenyo na nakabalot sa isang problemang materyal. Kailangan mo ng fissile material, karaniwang highly enriched uranium o plutonium mula sa reactor route, sa dami at kadalisayan na hindi basta-basta nahuhulog mula sa langit. Ang mga enrichment plant ay malalaki, gutom sa kuryente, at puno ng kagamitan na pitumpung taon nang natututunan ng mga serbisyo ng intelligence na makita. Hindi iyan ang buong kuwento ng non-proliferation, ngunit iyan ang bahaging ibinigay ng pisika nang libre.
Ngayon ay tumakbo na ang eksperimento ng mga lider ng AI. Ipagpalagay nang madali ang eksaktong pagsasaayos ng mga atomo na gumagawa ng bomba. Halimbawa ang mga input ay mura, dual-use, at ibinebenta ng pallet. Ipagpalagay nang ang isang natapos na disenyo ay maaaring kopyahin na gaya ng isang file. Gaano karaming taon ang itatagal ng uring ito?
Hindi marami. Ang mga kasunduan ay mananatiling mahalaga. Gayundin ang mga pamantayan at takot. Sila ang gagawa ng lahat ng trabahong kasalukuyang ginagawa ng materials difficulty, sa sukat na hindi pa napamahalaan ng anumang enforcement system. Ang bahagyang tagumpay ng ikadalawampu siglo sa nuclear weapons ay hindi maintindihan nang wala ang friction sa supply chain. Swerte lang natin na mapili ang uranium.
Ano ang nakuha namin sa tigas
Siyam na estado ang kilalang may nuclear weapons. Ang bilang na iyan ay isang iskandalo at uri rin ng awa. Daan-daang estado ang may siyentipikong talento para maunawaan ang physics. Mas kaunti ang nakakumpleto sa industrial marathon sa ilalim ng sanctions, scrutiny, at gastos. Ang Non-Proliferation Treaty, export control regimes, at ang IAEA safeguards system ay lahat nakasandal sa isang simpleng katotohanan: ang bottleneck ay sapat na visible para bantayan.
Tanggalin mo ang bottleneck at hindi ka makakakuha ng medyo mas mahirap na suliraning diplomatiko. Makakakuha ka ng mundo kung saan ang marginal actor, isang manipis na estado, isang mayamang grupo, o isang hiwalay na utos, ay makakapag-hostage ng mga lungsod. Ang deterrence math na halos gumagana sa iilang matino na kapangyarihan ay hindi gagana sa dose-dosenang manlalaro na may mas maikling time horizon. Nakakatakot ang bomba. Ang madaling bomba ay ibang uri ng problema.
Hindi tayo nabubuhay nang ligtas sa madaling nuclear materials sa pamamagitan ng mas magagandang talumpati. Nabubuhay tayo nang ligtas sa mahirap na nuclear materials sa pamamagitan ng inspeksyon. Patungo na ang superintelligence sa madaling bersyon.
Aling direksyon ang tinatahak ng AI?
Ang frontier training ay nangangailangan pa rin ng seryosong pera, seryosong chips, at seryosong engineering. Ang cluster na sapat na malaki para itulak ang frontier ay isang pisikal na bagay sa isang gusali na may power bill.
Hindi katulad ng trend line ng uranium ang trend line na ito. Mas nagiging capable ang mga model sa bawat dolyar. Nagpapabuti ang mga teknik. Ang weights, kapag nasanay na, ay maaaring kopyahin nang halos walang gastos. Ang open releases at leaks ay nagpapalaganap ng kakayahan nang pahalang. Global ang talento. Wala sa mga ito ang nangangahulugang libre na ang superintelligence bukas ng umaga. Lahat ng ito ay tumuturo palayo sa accidental gift na nagbigay-daan sa nuclear non-proliferation: ang matigas na materials gate.
Tapatang paghambingin ang dalawang salansan. Upang makakuha ng ikalawang nuklear na arsenal kailangan mo pa rin ang mga halaman, pagkain, at panahon sa ilalim ng mga teleskopyo. Upang makakuha ng ikalawang kopya ng isang sinanay na modelo kailangan mong magmaneho. Kung ang mapanganib na bagay ay ang ahente sa halip na ang lider ng digmaan, ang replikasyon ay pabor sa software pattern, hindi ang isotope pattern.
Ang maling aral at ang tamang isa
Ang maling leksiyon ay kapalaran: ang mga input ay nagiging mas madali, kaya ang pamamahala ay walang pag - asa. Iyon ay ang salamin ng tono ng laboratoryo na tanging higit na kakayahan ang makapagliligtas sa atin. Kapuwa namin nilalampasan ang pagitan na kinaroroonan pa namin, kung saan ang mga hangganan ay nakikita at ang bilang ng seryosong mga artista ay maliit.
Ang tamang aral ay pagkaapurahan tungkol sa kahirapan na kailangan nating likhain. Kung hindi mapananatiling makitid ng physics ang gate, dapat gawin ito ng batas at industry standards. Know-your-customer rules sa advanced chips. Reporting thresholds sa training runs. Audit rights. Hardware features na nagpapahirap itago ang malaking covert training. Isang treaty na nagsasabing hindi pinahihintulutang produkto ang superintelligence. Hindi makokontrol ang superintelligence. Ang NPT at ang burador ng modelong kasunduan ay mga pagtatangka na ilagay ang kahirapang iyon sa papel bago matapos ang pagbubukas ng madaling landas.
Isara ang eksperimento sa pag-iisip
Isipin ang pag-brief sa isang presidente noong 1960 gamit ang napatunayang disenyo at isang mundo kung saan ibinebenta ang bomb material tulad ng pataba. Lahat ng instinct sa silid ay sisigaw ng kontrol sa pinagmulan. Walang tatawag sa instinct na iyan na anti-science. Walang magsasabing ang sagot ay gumawa ng mas matalinong bomba para bantayan ang una.
Binubuo natin patungo sa isang kakayahang mas mahina ang natural materials gate kaysa sa bomba, habang sinasabi sa sarili natin na ang bilis ay kaligtasan. Hindi subtle ang thought experiment. Kung madaling gawin ang mapanganib na bagay, hindi makakakuha ng mulligan ang mundo. Gawin itong mahirap nang may layunin, habang available pa ang pagiging mahirap, o alamin kung ano ang pakiramdam ng madali nang walang fossil record ng mga survivor na puwedeng pagtalunan.