" Ako ang optimista. Tiyak na hindi malilipol ang lahi ng tao. Hindi iyan nangyari noon."
Naririnig mo ito pagkatapos ng mga panel na pangkaligtasan, sa luntiang mga silid at mga hibla ng komento, karaniwan nang may ngiti na nilayong magsara ng paksa. Ang ngiti ay gumagawa ng tunay na gawaing panlipunan. Inilalarawan nito ang pag - iingat bilang isang depekto sa personalidad at pagsulong bilang emosyonal na kalusugan. Ipupuslit din nito ang panganib sa loob ng isang kondisyon.
Pinahihintulutan ang pagiging optimistiko. Ang hindi ipinahihintulot, kung tayo'y gumagawa pa ng seryosong gawain, ay ang pakikitungo sa isang ugali bilang katibayan.
Ang "hindi kailanman nangyari bago" ay aktuwal na nagsasabi
Ang pagkalipol ng tao, ayon sa katuturan, ay walang taong mga saksi pagkatapos nito. Ang bawat nabubuhay na tao ay mga halimbawa mula sa mga timeline kung saan ang uri ay nagpapatuloy. Tawagan ito ng pagpili, hindi ng pilosopiya: ang isang panalo sa loterya ay isang masamang pinagmumulan sa kalamangang manalo, at "Hindi pa ako kailanman namatay sa isang banggaan ng kotse" ay isang mahinang argumento laban sa mga seatbelt.
Ang fossil record ay hindi gaanong sentimental. Ang karamihan ng mga uri na kailanma'y nabuhay ay naglaho. Ang ilang lansakang pagkalipol ay nag - alis sa lupon sa sumunod na nangyari. Ang Homo sapiens ay nasa kabataan pa sa panahon ng heolohiya at nakadaan na sa mga kanal, salot, at mga digmaan na maaari sanang tumapos sa atin sa isang mas malamig na rolyo ng dike. "Hindi kailanman nangyari bago" ang isang pangungusap tungkol sa manipis na bahagi ng kasaysayan na maaari pa nating talakayin. Hindi ito isang kalasag.
Unang panahon ang mga kapahamakan na likha ng
Bago ang 1945, walang lungsod ang nawasak ng isang bomba. Bago sumapit ang 1918, walang salot ang nakapasok sa pangglobong mga network ng tren at barko sa bilis na iyan. Bago ang gawaing ozone noong 1980s, walang sinuman ang nagsagawa ng eksperimento ng tao sa pagnipis ng suson na nagpapanatili sa ultraviolet na liwanag na hindi isterilisahin ang ibabaw. Bago nito, ang bawat isa sa mga ito ay hindi pa nangyayari kailanman. Ang mga tao na kumilos ay hindi naghintay ng isang kumpletong pagkakataon na makukuha bilang isang pag - aaral sa kaso.
Ang kahanga - hangang superintelligence ay nasa timbang iyon. Walang makasaysayang serye ng mga hindi tumpak na superintelligence sa katamtaman. May mekanismo: mga sistemang nagtataguyod ng mga tunguhin, nagpapabuti ng kanilang sariling kakayahan, at sa wakas ay nakahihigit sa mga institusyon na nilayon upang ituwid ang mga ito. Mekanismo ang ginagamit mo kapag ang mga base rate ay tahimik. Ang paghiling ng isang patiunang pagkalipol ng tao mula sa AI bago mo dibdibin ang mekanismo ay humihiling sa bangkay bago ang pagsusuri.
Bago nito, ang bawat unang kasakunaan ay parang isang bagay na hindi pa nangyayari kailanman. Iyan ang paglalarawan sa kategorya, hindi katiyakan.
Optimismo, na may wastong layunin
May isang bersiyon ng pag - asa na iginagalang ko. Sinasabi nito: Ang mga tao ay nagtutugma sa ilalim ng panggigipit noon. Ang mga kasunduan ay nanatili. Ang mga industriya ay napilitang magbago ng landasin nang ang siyensiya ay maliwanag at ang pulitika ay naging organisado. Ang rekord ng pagpipigil ay tunay, mula sa pagkontrol ng mga armas nuklear hanggang sa mga kemikal na kumakain sa ozone layer. Ang pag - asang iyan ay nagtuturo sa ahensiya. Ipinapalagay nito na ang kinabukasan ay isa pa ring pasiya.
Kabaligtaran naman ang ginagawa ng greenroom. Itinuturing nito ang kaligtasan bilang ang default set ng sansinukob at ang pagkabahala bilang masamang asal. Ikinalilito nito ang "Mas gusto ko ang mabuting kalalabasan" na may "mabuting kinalabasan samakatuwid ay malamang." Hindi isang probabilidad ang pag - iingat.
Nang si Geoffrey Hinton, Yoshua Bengio, at daan-daang mananaliksik ay naglagay ng panganib sa pagkalipol-level AI sa parehong listahan ng mga pandemic at digmaang nukleyar, ginagawa nila ang nakakabagot na bagay na ginagawa ng mga dalubhasa kapag ang isang mekanismo ay mukhang tunog at ang downside ay ganap, hindi pag-aawdisyon para sa mga kontrabida sa isang tema ng teknolohiya. Maaari kang tumutol sa kanilang bilang. Hindi mo maaaring ipagwalang - bahala ang kategorya sa pamamagitan ng paghahayag ng uri ng iyong personalidad.
Ang halaga ng pagkikibit - balikat
Ang pagkikibit - balikat ay gumagawa ng gawain para sa mga tao na nangangailangan ng pagtatayo upang makapagpatuloy nang walang laban. Kung ang usapan tungkol sa pagkalipol ay muling pinagtibay bilang isang problema sa vibe, kung gayon ang tanging magalang na pagkilos ay baguhin ang paksa pabalik sa produksiyon at mga app. Samantalang ang sukat ng laboratoryo, ang evals ay lag, at ang pagsupil sa problema ay hindi pa rin nalulutas. Ang mood ay nagkamali sa pamamahala.
Nais kong magpatuloy ang proyekto ng tao. Iyan ang buong dahilan kung bakit umiiral ang pundasyong ito. Ang pagnanais nito ang madaling kalahati. Ang mas mahirap na kalahati ay ang pagtanggi sa isang landas ng pag - unlad na nagtutuon ng pansin sa di - naitutuwid na kapangyarihan sa mga sistema na walang sinuman ang tiyak na tatalikod, at ang paggawa ng pulitikal na gawain ay isang bagay Ihinto ang pagtatali ang kailangan. Tawagin ang pag - asang iyan kung ang salita ay may kahulugan pa rin. Kung ang ibig lamang sabihin nito ay "tigilan na ang pag-uusap tungkol sa downside," ito ay naging glueby.
Hindi pa kailanman nangyari sa amin ang pagkalipol. Iyan ang panimulang kalagayan ng bawat kuwento na nagwawakas nang husto. Hindi ito argumento na ang isang ito ay magwawakas na mabuti.
Karaniwang mga tanong.
Hindi ba't nakaligtas ang sangkatauhan sa bawat nakaraang hula ng kapahamakan?
Nakaligtas ang sangkatauhan sa mga panganib na dulot nito. Iyan ay isang di - tiyak na pangyayari, hindi isang hula. Mayroon din tayong mahabang rekord ng mga pagkalipol ng mga uri, pagbagsak ng sibilisasyon, at halos-miss sa pamamagitan ng mga teknolohiya na maaari sanang tumapos sa atin. Ang nakaraang kaligtasan ang mapapansin mo hanggang sa unang kabiguan na hindi nag - iiwan sa mga nagmamasid.
Hindi ba't mas mabuti ang pagiging positibo kaysa sa kapahamakan?
Ang galit ay hindi siyang suliranin. Ang tanong ay kung baga ang isang espisipikong landas sa pag-unlad ay nagtutuon ng pagkalipol-level power sa mga sistemang walang sinuman ang tiyak na makasusupil. Maaari kang maging masayahin sa hapunan at ayaw mo pa ring gawin iyan. Walang silbi ang lamig na walang programa; gayundin ang katuwaan na nagbabawal sa pagtingin sa mekanismo.
Ano kaya ang mangyayari sa AI?
Kumilos na para bang ang hinaharap ay maaari pa ring tanggapin. Itayo ang kasunduan, ang mga pagsisiyasat, at ang pulitikal na koalisyon na nag - iingat sa labis na pag - aayos sa mesa hanggang sa ang pagsupil ay tunay. Mas mahirap itong ipagwalang - bahala. Ito rin ang tanging pag - asa na mayroon pang natitirang paksa upang tamasahin ang kalalabasan.