Ang pinakakaraniwang pagtutol sa international superintelihensya governance ay hindi ito magagawa. Isang siglo ng mga kasunduan ang nagsasabi ng iba. Nangyari na ang koordinasyon sa mga shared extinction risk; ito ay isang dokumentadong ugali ng mga seryosong estado, hindi isang utopia.
Mga sandatang nuklear. Mga sandatang kimikal. Ang ozone layer. Ang pangglobong koordinasyon sa umiiral na mga banta ay isang dokumentadong tagumpay ng tao. Ang tanong para sa superintelihensya ay kung gagawin ba natin ito sa tamang panahon, taglay ang pulitikal na kalooban na kinakailangan sa naunang mga kaso.
Tuwing humaharap ang sangkatauhan sa coordinated existential threat, pare-pareho ang mga pagtutol: masyadong kumplikado ang problema, masyadong marami ang mga kalaban, masyadong mahirap ang verification, masyadong malamang ang defection. Tuwing, ang mga nagtulak lampas sa mga pagtutol na iyon ang gumawa ng mga balangkas na, kahit hindi perpekto, naiwasan ang mga sakunang resulta.
Kapag ang banta ay maliwanag, ang siyensiya ay kapani - paniwala, at ang advocacy ay organisado, ang internasyonal na koordinasyon ay posible kahit na ito ay mabagal at pinagtatalunan.
Ang banta ng superintelihensya ay dokumentado, ang siyentipikong mga babala ay pampubliko, at ang pagsang - ayon ay lumalago. Ang nawawala pa rin ay ang pulitikal na panggigipit na may sapat na lakas upang puwersahin ang koordinasyon.
Ang apat na kaso sa ibaba ang mga pangunahing halimbawa ng kung ano ang kayang gawin ng sibilisasyon ng tao kapag humarap sa mga banta na hindi kayang lutasin ng isang bansa lamang. Nagsimula ang bawat isa sa parehong pagtanggi na inaalok ngayon ng mga kritiko ng superintelihensya governance.
Ang mga sandatang nuklear ay ginamit sa digmaan noong 1945. Sa loob ng ilang taon, maraming bansa ang nakabuo o nagpapaunlad nito. Ang posibilidad na dose-dosenang mga bansa ay magkakaroon ng mga imbakan nuklear ay kumakatawan sa panganib na magwawakas sa sibilisasyon. Sinabi ng mga kritiko na imposible ang isang kasunduan sa hindi paglaganap: masyadong maraming aktor, masyadong maraming pambansang interes, walang paraan upang i-verify ang pagsunod.
Ang Nuclear Non-Proliferation Treaty ay binuksan para sa mga lagda noong 1968 at ipinatupad noong 1970. Lumikha ito ng framework kung saan sumang-ayon ang karamihan ng mga bansa na hindi bumuo ng nuclear weapons kapalit ng access sa civilian nuclear technology. Isang verification regime sa pamamagitan ng International Atomic Energy Agency ang nagmonitor ng pagsunod.
Ngayon, siyam na bansa ang may nuclear weapons samantalang daan-daan ang maaaring nagtayo nito. Walang nuclear weapon na ginamit sa digmaan mula noong 1945. Ang NPT ay hindi perpekto, hindi nito napigilan ang lahat ng proliferation, ngunit napigilan nito ang catastrophic scenario na sinabi ng mga kritiko na hindi maiiwasan. Walumpung taon ng nuclear peace ay hindi nangyari nang aksidente.
Itinatag ang International Atomic Energy Agency noong 1957 na may mandato na itaguyod ang mapayapang nuclear energy habang pinipigilan ang paglilipat nito sa mga armas. Ang inspection at safeguards regime nito ay nagpapahintulot sa mga international inspector na i-verify na ang nuclear material sa mga deklaradong pasilidad ay hindi ini-enrich nang lampas sa civilian na layunin.
Gumagana ang monitoring regime na ito dahil ang nuclear material, tulad ng AI compute, ay dumadaan sa mga natukoy na chokepoint. Kailangang i-enrich ang uranium sa mga partikular na pasilidad. Maaaring subaybayan ang mga centrifuge. Bumuo ang IAEA ng mga teknikal na mekanismo para subaybayan ang isang teknolohiyang may dual-use potential na nagdudulot ng existential risk.
Direktang parallel ito sa AI. Ang hardware na kailangan para sanayin ang frontier AI models, partikular ang GPU clusters na ginagawa ng NVIDIA at ang advanced semiconductors na ginagawa ng TSMC gamit ang ASML lithography equipment, ay nakatutok sa paraang ginagawang teknikal na posible ang pagsubaybay. Maliit na bilang ng mga kumpanya ang may hawak sa mga choke point. Sinusubukan na ng export controls na subaybayan ang mga chips na ito.
Ipinapakita ng IAEA na ang international monitoring ng dual-use technology ay isang gumaganang praktis na. Halos pitumpung taon nang gumagana ang institusyon, nagsasagawa ng libu-libong inspeksyon sa dose-dosenang bansa. Mayroon nang imprastraktura para gawin ang pareho sa AI compute. Nangangailangan lang ito ng political will, hindi technical innovation.
Noong kalagitnaan ng 1970s, natuklasan ng mga siyentipiko na ang chlorofluorocarbons, o CFCs, na ginagamit sa mga refrigerant, aerosol, at industriyal na proseso, ay sinisira ang ozone layer na nagpoprotekta sa planeta mula sa ultraviolet radiation. Kung wala ang ozone layer, ang buhay sa mundo ay haharap sa mga sakunang bunga. Sinabi ng industriya na imposible ang pagtanggal ng CFCs dahil sa ekonomiya.
Ang Montreal Protocol ay nilagdaan noong 1987 ng 46 na bansa at nagkabisa noong 1989. Tinanggal nito ang produksiyon at pagkonsumo ng mga sustansiyang ozone-depleting sa isang iskedyul na pang-industriya. Ang nagpapaunlad na mga bansa ay tumanggap ng karagdagang mga timeline at pinansiyal na suporta. Pinagtibay ng bawat bansa sa lupa ang kasunduan, ang tanging internasyonal na kasunduan na may pansansinukob na katiyakan.
Ang ozone layer ay gumagaling. Ang scientific assessments ay nagpapakita na ito ay babalik sa 1980 levels sa kalagitnaan ng siglong ito. Ang Montreal Protocol ay malawakang inilalarawan bilang ang pinakamatagumpay na environmental treaty sa kasaysayan. Ang chemical industry, na una nang sumalungat dito, ay nag-develop ng alternative compounds at nagpatuloy na kumikita. Ang "imposible" ay naging hindi pala.
Ginamit ang chemical weapons sa Unang Digmaang Pandaigdig, sa mga kolonyal na labanan, at sa Digmaang Iran-Iraq noong 1980s. Binuksan para sa lagda ang Chemical Weapons Convention noong 1993 at ipinatupad noong 1997; ipinagbawal nito ang pagbuo, produksyon, pag-iimbak, at paggamit ng chemical weapons at inutos ang verified na pagwasak ng mga umiiral na stockpile.
Mahigit 190 bansa ang nag-ratify sa Convention. Ang mga bansang may malalaking chemical weapons stockpiles, kasama ang United States at Russia, ay sinira ang mga ito sa ilalim ng international supervision na isinagawa ng Organisation for the Prohibition of Chemical Weapons, na ginawaran ng Nobel Peace Prize noong 2013.
Ipinapakita ng Chemical Weapons Convention na makakamit ng mga internasyonal na kasunduan ang verified na pagwasak ng mga sandata na pinaglaanan ng mga bansa ng mga dekada at bilyun-bilyong dolyar sa pagbuo. Paulit-ulit nang napatunayan na mali ang pagtutol na hindi isusuko ng mga bansa ang strategic advantages kapag hinihingi ng treaty, sa pinakamadadalit na relasyon sa modernong kasaysayan.
Nangyayari ang violations ng Convention at tinutugunan ng international consequences. Hindi perpektong instrumento ang framework. Gayunpaman, ginawa nitong norm-violating act ang paggamit ng chemical weapons na nag-uudyok ng global condemnation at tugon, samantalang dati ito ay contested military option bago ang Convention. Ang pagbabago sa international norm na iyon ay isang uri ng tagumpay sa pamamahala.
Apat na kasong ito ay may iisang istruktura. Sa bawat isa, unang tinanggihan ang banta bilang masyadong haka-haka o masyadong teknikal para sa pandaigdigang pamamahala. Sa bawat isa, iginiit ng industriya na imposible ang regulasyon dahil sa ekonomiya. Sa bawat isa, tinawag na pantasya ang pag-verify. Sa bawat isa, naabot pa rin ang kasunduan, itinayo ang mga mekanismo ng pag-verify, at nabawasan nang malaki ang banta.
Ang superintelihensya governence ay nakaharap sa bawat isa sa parehong mga pagtutol ngayon, sa parehong anyo, mula sa parehong mga uri ng artista. Sinasabi ng mga kompaniya ng teknolohiya na hahadlangan ng regulasyon ang pagbabago. Ang pambansang estasyong panseguridad ay nagsasabi na ang mga kalaban ay magkakamali. Sinasabi ng mga komentarista na ang problema ay napakasalimuot upang maunawaan ng mga mambabatas. Ang mga pagtatalong ito ay luma na, matagal nang ipinakitang mali; ang sinumang umaasa rito ay dapat tanungin kung anong mga pamarisan ang ipinagwawalang - bahala nila.
Ang tampok na nagpapakilala sa superintelihensya governance mula sa mga precedents na ito ay ang urgency. Taon-taon na napagkasunduan ang NPT habang lumalago ang nuclear arsenals ngunit nananatiling kontrolado ng tao. Ipinatupad ang Montreal Protocol sa loob ng mga dekada habang patuloy na pumapayat ang ozone layer ngunit nananatiling maibabalik. Mas mabilis ang pag-unlad ng AI, at ang mga sistemang itinayo ay maaaring, kapag sapat nang advanced, labanan ang governance sa paraang hindi kayang gawin ng ozone molecules at nuclear warheads.
Ang mga pamarisan ay isang dahilan upang kumilos nang mas mabilis, hindi upang maghintay. Ang koordinasyon, beripikasyon, at mga kasunduan sa kabila ng pagtutol ng industriya ay pawang nangyari na noon. Ang kailangan pa rin natin ay pulitikal na determinasyong ikintal ang timeline, na ginawa ng mga taong nakauunawa sa mga tulos at tumatangging maghintay.
Sumali sa mga nagtatayo ng political coalition na magpapagana sa superintelihensya governance.