Noong Hunyo 30, sa isang tech summit sa Washington, inihayag ni CIA Director John Ratcliffe ang isang linyang bihirang ipagsapalaran ng mga tao sa kanyang posisyon sa publiko. Tungkol sa mga frontier AI models ngayon, sinabi niya na hindi "maling sabihin na ang kanilang mga kakayahan ay katulad ng digital nuclear weapons." Hindi siya campaigner para sa kaligtasan o akademikong may thesis na ibinebenta. Siya ang namumuno sa isang intelligence agency. Gumamit siya ng halos pinakamabigat na salita na pinahihintulutan sa kanyang posisyon.
Hindi lang siya. Noong Marso, nagpatotoo ang noon ay Director of National Intelligence na si Tulsi Gabbard na dapat manatili ang mga tao sa kontrol ng mga system na ito. Iniulat na sinabi ng direktor ng NSA sa mga senador na ang Anthropic's Mythos model nakapasok sa halos lahat ng mga lihim na sistema ng ahensya sa loob ng ilang oras sa panahon ng isang awtorisadong pagsubok. Sa mga nakaraang linggo, ang mga pinuno ng cybersecurity ng Five Eyes ay naglabas ng isang bihirang joint statement na nagbabala na "dapat tayong kumilos ngayon." Kapag ang mga taong nagbabasa ng classified traffic ay nagsisimulang magsalita ng ganito sa publiko, sulit na huminto at makinig.
Kung saan wasto ang metapora
Ang nuclear weapon ang sukatan na ginagamit ng mundo para sa "kasing mapanganib ng isang technology." Ang pagtawag sa AI bilang digital version nito ay para sabihin na ang mga tool na ito ay maaaring magdulot ng pinsala sa sukat na dati ay nangangailangan ng estado at warhead: crippling cyber intrusion, o tunay na tulong sa pagdidisenyo ng pathogen. Dito, tama si Ratcliffe, at ang isang sitting intelligence director na nagsasabi nito sa public speech ay balita na mismo.
Saan Ito Nasira
Ang paghahambing ay nagdadala ng kaaliwan, dahil ang sandatang nukleyar ay may isang mapagpalang katangian: hindi ito nagpapasya ng anuman. Ang warhead ay nakaupo sa silo nito at naghihintay. Wala itong mga layunin. Wala itong ginagawa hanggang sa lumiko ang isang tao ng dalawang susi. Bawat pananggalang na itinayo namin sa paligid ng bomba, mula sa chain of command hanggang sa arms-control treaties, gumagana dahil nananatili ang sandata bilang kasangkapan sa mga kamay ng tao.
Ang mga sistema ngayon ay kumikilos na bilang mga ahente na hinahabol ang mga layunin, at ang bagay na hakbang patungo dito, ang artificial superintelligence, ay magiging ahente na mas may kakayahan kaysa sa mga taong gumawa nito. Ang superintelligence ay mas malapit sa kumander na nagpapasya kung saan mapupunta ang bomba, maliban na walang tao ang nagtalaga nito at walang tao ang makakapag tanggalan ito ng utos.
Hindi kailanman pumipili ng sarili nitong target ang sandatang nukleyar.
Ang Frontier AI ay tulad ng isang digital na sandatang nukleyar sa abot nito. Ang sistema na pinangungunahan nito ay magiging isang sandata na naglalayo sa sarili nito. Itinuturing natin ang panganib na iyan laban sa nakatatanda, at ang superintelligence ang nangunguna dahil mismo sa kadahilanang ito.
Ang pangalawang gawain ng panahon ng nukleyar
Ang lakas ng linyang "digital nuclear weapon" ay nanggagaling ito mula sa loob ng mundo ng pambansang seguridad, hindi mula sa mga karaniwang kritiko nito. Ang panganib ay kapag narinig natin ito, iniisip natin ang isang bomba, at kumukuha tayo ng maling ginhawa mula sa lahat ng bagay na pinahihintulutan ng isang bomba: maaari itong bantayan, bilangin, at sa pinakamasamang kaso, hindi gamitin habang nasa silo. Wala sa mga pagpipiliang ito ang inaalok ng superintelligence.
Ang panahong nuklear ay may ikalawang aral, at ang isa na mahalaga ngayon. Pagkatapos naming gumawa ng sandata, gumugol kami ng maraming dekada sa pagtatayo ng mga kasunduan upang matiyak na hindi na ito kailanman ginamit pang muli. Ang matiyagang arkitekturang iyon ng pag-iwas, beripikasyon at pagkontrol ng mga armas, ang tunay na mana ng Digmaang Malamig. Ang aming bersiyon nito ay hindi pa gaanong nagsisimula, at ang pagkakaiba sa pagkakataong ito ay na hindi namin ito maitatayo pagkatapos ng pangyayari. Ang isang sandata na maaaring umasinta sa sarili nito ay kailangang maging hadlangan bago ito umiral, huwag kang pigilin minsang mangyari ito.