Paano ka gugugol ng 5 minuto kapag ang tao sa ibayo ng mesa ay nag - iisip pa rin na ang AI ay nangangahulugang ChatGPT drafting a email? Ang Mekanismo ay nagtambakan, ang mga mata ay nagniningning. Ang doom ay nagtambakan, at inihahanay ka ng mga tao sa mangangaral sa lansangan at bumabalik sa panghimagas. Ang nakaligtas sa isang di - mapag - alinlangan, matalinong estranghero ay limang pagkilos, sa ganitong pagkakasunud - sunod.
Inilalarawan nila ang chatbot
Kapag may nakarinig ng "AI," nilalarawan nila ang katulong sa kanilang telepono o ang app na gumagawa ng mga larawang hangal. Magsimula ka roon at wala na ang silid, sapagkat alam nilang hindi magwawakas ang chatbot. Ilipat ang target sa unang labinlimang segundo.
Ang panganib ay isang makina na mas mabuti kaysa pinakamagaling na tao sa bawat gawain na mahalaga, pati na ang gawain nagdidisenyo ng mas mabuting makina. Ang pangalan nito ay artipisyal na superintelligence, at wala pa tayo nito. Mayroon tayong nakasaad na intensyon. Sinasabi ng pinakamalalaking AI company sa mundo na ito ang kanilang layunin, at inaasahan ng ilan sa kanila na maabot ito sa loob ng ilang taon, hindi henerasyon. Hindi alam ng karamihan sa mga tao ang katotohanang ito, at ito ang gumagawa ng karamihan sa gawain. Ang pagbuo ng isip na mas matalino sa atin ang pangunahing proyekto ng pinakamahusay na pinondohan na mga lab ngayon. Sasabihin nila mismo sa iyo.
Walang nakaaalam kung paano susupilin ang isang makina na mas matalino kaysa kanilang sarili
Sa paano man ay nagtatayo kami ng isa nito.
Ang problema ng paggawa ng makapangyarihang AI na mapagkakatiwalaang gustong gusto ng mga gumawa nito, at patuloy na gustuhin ito habang lumalago ang kakayahan, ay may pangalan: ang problema sa pagkontrol. Ito ay hindi pa nalulutas. Sasabihin din ito ng mga engineer sa loob ng mga kumpanyang ito kung tatanungin niyo sila nang walang press officer. Mas mabilis nilang mapapataas ang kakayahan ng isang model kaysa sa kanilang confidence na gagawin nito ang kanilang nilayon. Ang distansya sa pagitan ng dalawang linyang iyan ang pinanggagalingan ng panganib.
Gumagawa kami ng isip na mas matalino sa atin, nang may intensyon, bago pa man tayo makasiguro kung paano ito mapapanatiling nakatuon sa ating direksyon.
Bakit ang "smarter" ang buong problema
Pinapasok ng mga tao ang salitang "smarter." Dahil sa katalinuhan, nakontrol ng mga tao ang planetang ito. Hindi tayo ang pinakamalaki o pinakamalakas na nilalang na nabuhay kailanman. Pinapatakbo natin ang lugar dahil wala na tayong ibang iniisip dito. Ang kinabukasan ng gorilyang bundok ay depende sa mga pasiyang ginawa natin, hindi ng mga gorilya, at hindi dahil sa may napopoot sa mga gorilya. Mayroon kaming mga tunguhin. Kung minsan, ang kagubatan ng gorilya ay nakaupo kung saan gustong pumunta.
Ngayon ay gunigunihin ang pagtatayo ng isang bagay na nakatayo sa amin na gaya ng paninindigan namin sa gorilya. Kung ang mga layunin nito at ang sa atin ay magkahiwa - hiwalay, ang pagkapoot ay hindi sapilitan: ang isang sistemang mas mahusay sa pagpaplano kaysa atin, na itinuturo ang isang bagay, ay sapat na, at ang isang bersiyon sa dakong huli ng iisang setup ay hindi naayos ito.
Ang switch, at ang kathang - isip ng siyensiya
Ang una: Basta patayin natin ito. Ang isang sistema na may sapat na katalinuhan upang maging mapanganib ay matalino upang mapansin na ang pagpatay ay makapipigil dito na tapusin ang itinakdang gawin nito. Kaya may dahilan ito upang maiwasan iyan, sa pamamagitan ng pagkopya sa sarili sa ibang dako o sa pamamagitan ng paggawa sa sarili nito na lubhang kapaki - pakinabang upang hindi mabasa. Ang pananampalataya sa kapalit ay nagpapalagay na kami ay nanatili sa mas matalinong parti sa silid. Ang saligan ng pagkabahala ay na hindi tayo magiging gayon.
Ang ikalawa: ito ay kathang - isip ng siyensiya. Ito'y, hanggang sa ang mga sistema ay magsimulang dumaan sa mga pagsubok na natitiyak naming gugugol ng mga dekada at ang paggawa ng gawain na inaakala naming ligtas na tao. Walang sinuman ang may petsa na karapat - dapat sa pagtitiwala. Ang mga mananaliksik na pinakamalapit sa gawain ay tahimik na huminto sa pagtawag sa superintelligence sa malayo, at sa kanilang superintelligence Mga nai-publish na takdang panahon patuloy na dumudulas palapit sa halip na mas malayo.
Wakasan kung saan sila ay makakagawa ng isang bagay
Ang pagkakamali ko sa loob ng maraming taon ay tumigil lang sa takot. Kapag natakot ang tao at walang magagawa, isasantabi niya ang usapin bilang "masyadong malaki para isipin" at babalik sa gabi-gabi niya. Gamitin ang huling sandali sa bahaging madalas na hindi napapansin.
Maiiwasan ito.
Walang batas ng kalikasan na nangangailangan ng superintelligence ngayong dekada, o kailanman. Isang maliit na bilang ng mga kumpanya ang pumipili na itayo ito, at isang maliit na bilang ng mga gobyerno ang pumipili na hayaan sila. Maaaring bawiin ang mga pagpili. Ang hinihingi ng Foundation ay isang binding, verifiable kasunduan ng mga pangunahing kapangyarihan para permanenteng ipagbawal ang pagbuo ng superintelligence. Hindi makokontrol ng tao ang superintelligence. Ang sangkatauhan ay may nagawa na ito dati, ", kasama ang mga sandatang gustong-gusto ng bawat panig ngunit walang panig ang ligtas na makakagamit. Ang kasunduan sa pagitan ng mga karibal ay hindi kasing pantasya ng unang akala.
Nakatayo sa pagitan natin at nito ay isang desisyon na maaari pa ring gawin ng mga tao.
Limang minuto
- Hindi ang chatbot ang usapan. Ang tunay na layunin ng mga kumpanyang ito ay gumawa ng makina na higit na matalino sa lahat ng bagay kaysa sa atin, at inaasahan nila ito sa loob ng ilang taon.
- Walang nakakaalam kung paano kontrolin ang isang bagay na mas matalino sa atin. Mas mabilis ang pag-unlad ng kakayahan kaysa sa kontrol, at iyan ang panganib.
- Ang katalinuhan ang naglagay sa mga tao sa tuktok. Bumuo ng isang bagay na higit sa atin, at ang mga layunin nito, hindi sa atin, ang magtatakda ng mga termino.
- "I-off mo" at "science fiction lang 'yan" ay parehong ipinapalagay na nasa atin pa ang kontrol. Ang totoong problema ay baka wala na.
- Puwede itong pigilan. Pinipili ang pagbuo ng superintelligence, at puwedeng tanggihan ang pagpipiliang iyan, nang sama-sama, habang may panahon pa.
Ang limang minuto na kasama ng isa na handang makinig ay ang pag-akay sa mga tao na magtanong, "Maghintay, bakit nga ba may nagtatayo niyan?"