Kung naglaan ka ng oras sa online na debate tungkol sa AI, nakita mo na ang suffix na ito. Nagdaragdag ang mga tao ng "e/acc" sa kanilang usernames tulad ng paglagay ng lapel pin ng nakaraang henerasyon. Ito ay nangangahulugang epektibong akselerasyonismo, at ito ang pinakamalinaw, pinakakumpiyansa, at pinakamaimpluwensyang counterweight sa AI safety movement. Ang seryosohin ito (sa halip na gawing karikatura) ang tanging tapat na paraan para kontrahin ito.
Ano ang pinaniniwalaan ng effective accelerationism
Lumitaw ang effective accelerationism noong 2022 mula sa pseudonymous social-media accounts, pinakakilala ang isa na tinatawag ang sarili na "Beff Jezos," na kalaunan ay nakilalang dating Google engineer na si Guillaume Verdon, kasama ang collaborator na kilala bilang Bayeslord. Hiniram nito ang pangalan ng mas lumang philosophical current na accelerationism, ngunit sa praktika ito ay mas simple at mas optimistic kaysa sa academic ancestor nito.
Ang pangunahing pahayag:
- Ang teknolohiya ang makina ng pag-unlad ng sangkatauhan. Halos bawat pag-unlad sa kalusugan, yaman, at kalayaan ay nagmumula sa teknolohikal na progreso. Mas maraming progreso, mas mabilis, ay nangangahulugang mas maraming kasaganaan.
- Ang artipisyal na katalinuhan ay ang pinakamakapangyarihang makina na kailanman ay itinayo, at ang pagpapabilis nito ang pinakamabilis na daan patungo sa pagpapagaling ng sakit, pagtatapos ng scarcity, at pagpapalawak ng magagawa at magiging kakayahan ng sangkatauhan.
- Ang panganib na sakuna ay mababa o hindi gaanong mahalaga. Inilalagay ng ilang kilalang accelerationist ang probabilidad ng eksistensyal na sakuna na sanhi ng AI sa "zero o malapit sa zero," at itinuturing ang mga senaryo ng doom bilang hindi mapanghimagsik na pagkabalisa.
- Hindi mo mauunawaan ang isang teknolohiya nang hindi ito ginagawa. Pinipigilan ng restraint ang mismong karanasang nagtuturo sa atin kung paano gawing ligtas ang isang teknolohiya. Natututo tayo sa paggawa, hindi sa paghinto.
- Mapanganib ang restriksyon sa sarili nitong paraan. Mabigat na regulasyon ay nagko-concentrate ng kapangyarihan, sumasakal sa kompetisyon, at maaaring ibigay ang hinaharap sa mga hindi gaanong maingat na aktor. Ang bukas, mabilis, at desentralisadong pag-unlad ay mas ligtas kaysa sa controlled slow-down.
Sa ganitong paglalarawan, ang e/acc ay isang kilalang Amerikanong, kilalang Enlightenment na pananampalataya sa progreso, na nakatuon sa isang teknolohiyang may tunay na pangako, hindi hangal. Mas marami pa ang pinagkakasunduan ng aming posisyon dito kaysa sa ipinapakita ng online na sigawan: gaya ng aming malinaw na sinasabi, hindi kami laban sa AI. Nakapagpagaling na ng sakit at nakapagpabilis ng pagtuklas ang Narrow AI. Mas makitid at mas matalas ang hindi pagkakasundo kaysa sa "optimists versus doomers."
Saan tama ang e/acc
Ang isang tapat na pagtutol ay nagsisimula sa pag-amin sa mga malalakas na punto, dahil malakas nga ang mga ito.
Ang Progress talaga ang naging dakilang humanitarian force. Life expectancy, child mortality, literacy, absolute poverty, ang mga long-run trend line ang pinakamagandang balita sa kasaysayan ng sangkatauhan, at ang teknolohiya ang nagpatakbo nito. Ang blanket suspicion sa bagong teknolohiya ay may mahinang track record.
Talagang may gastos ang precautionary restriction, at madalas na hindi nakikita. Tuwing taon na naaantala ang lunas, may mga taong namamatay na sana ay nabubuhay pa. Ang "First, do no harm" ay hindi nangangahulugang "first, do nothing," dahil ang hindi pagkilos ay pagpipili rin na may bilang ng mga biktima. Dapat dalhin ng anumang seryosong argumento sa kaligtasan ang bigat na ito, hindi ito itaboy.
Talagang panganib ang konsentrasyon ng kapangyarihan. Isang rehimeng namamahala na may kontrol sa AI sa isang rehimen maliit na kartel ng mga incumbente o a Isang gobyerno ang sarili nitong uri ng kapahamakan. Ang e/acc ay tama na ang "tama lamang na pag-aayos nito" ay maaaring maging mali.
Saan nasisira ang argumento
At gayon pa man, hindi sumusunod ang konklusyon. Nasa tatlong partikular na galaw ang pagkakamali, hindi sa optimismo ng e/acc tungkol sa teknolohiya sa pangkalahatan.
1. Tinatrato nito ang hindi pa napatunayang claim bilang settled fact
Ang batayang load-standing ay na ang kapaha-pahamak na panganib ng AI ay "halos sero." Subalit hindi ito isang tuklas. Walang nagpakita nito. Ito'y laban sa itinuturing na hatol ng mismong mga mananaliksik na nagtayo ng modernong AI, Geoffrey Hinton, Yoshua Bengio, at daan - daang iba pa na lumagda sa pangungusap na 2023 na naglalagay sa panganib ng pagkalipol kasama ng mga epidemya at digmaang nuklear. Kapag ang sentral na palagay ng isang kilusan ay tahasang sinasalungat ng mga sariling tagapanguna ng larangan, tinatawag ang pagpapalagay na iyon na "optimismo" understates kung ano ang nangyayari. Ito ay isang putbol, at tahimik na tinatanggap ng swiftist ang sagot sa isang tanong na bumabangon.
2. "Learn by building" ay nabigo para sa mga pagkakamaling hindi mo masusurvive
Ang claim na pinakamahusay nating nauunawaan ang mga teknolohiya sa pamamagitan ng pagbuo sa mga ito ay totoo para sa halos lahat ng bagay, at eksaktong mali para sa isang kategorya na mahalaga dito. Ang iterative, learn-from-failure na pag-unlad ay gumagana kapag ang mga pagkabigo ay survivable at reversible. Naglalabas ka ng buggy software, nag-crash ito, inaayos mo. Ang loop na iyon ang makina ng lahat ng engineering progress.
Hindi ito gumagana kapag ang unang seryosong pagkabigo ay siya ring huli. Isang misaligned superyinteligensya hindi isang crash na ma-patch mo; ito, ayon sa lohika ng pagsasama ng mga layuning instrumental at ang mapanlinlang na pagliko, isang sistema na lumalaban sa pagwawasto at pagpapasara. Ang "matututo tayo habang nagpapatuloy" ay nangangailangan ng pangalawang pagkakataon. Sa partikular na problemang ito, baka wala na. Ang aming paninindigan ay ang utopian upside e/acc wants ay nangangailangan ng alignment na hindi natin alam kung paano makakamit, at na ang unaligned superintelligence ay hindi naghahatid ng kasaganaan, ito ay nagtatapos lamang sa kuwento.
3. Nagkakamali ito sa pagtingin sa coordination problem bilang values problem
e/acc ay nag-frame ng debate bilang optimists na mahilig sa progress versus pessimists na natatakot dito. Pero kahit isang committed optimist ay humaharap sa dynamics ng karera: kapag maraming lab at bansa ang nagkukumpitensya para mauna, may insentibo ang bawat isa na putulin ang mga safety corner, dahil ang sinumang magpapabagal ay talo lang sa sinumang hindi. Ang resulta ay lahat ay mas mabilis kaysa sinuman thinks is wise. Hindi ito tagumpay ng optimismo; klasikong collective-action failure ito, ang uri na nagbubunga ng mga resulta na hindi pipiliin ng sinumang kalahok. Hindi nito nalulutas ang bitag ang acceleration. Lalo pa nitong pinapalalim. Ang tanging makakalutas nito ay koordinasyon, eksaktong mga binding, internasyonal na balangkas na tinututulan ng e/acc.
Ang hindi pagkakasundo, tumpak na sinabi
Kapag tinanggal ang memes, hindi sumasang-ayon ang dalawang kampo sa isang bagay lang: ang pagkakasunod-sunod ng operasyon. Sinasabi ng e/acc na magtayo muna, at magtiwala na susunod ang kontrol at pag-unawa mula sa kakayahan. Sinasabi ng safety position na itatag muna ang kontrol, dahil sa teknolohiyang ito walang hanggan at hindi maibabalik ang gastos ng pagkakamali sa pagkakasunod.
Hindi mo kailangang maging pesimista para tanggapin ang pangalawang pananaw. Kailangan mo lang mapansin ang isang asymmetry. Kung tama ang mga accelerationist at pinamamahalaan pa rin natin, mawawalan tayo ng kaunting bilis at kahusayan, tunay na gastos, na maibabalik pa. Kung mali ang mga accelerationist at hindi natin pinamamahalaan, mawawalan tayo ng kakayahang idirekta ang pinakamakapangyarihang bagay na nilikha ng ating species, nang permanente. Sa harap ng asymmetry na iyan, ang pagpipilit sa kaligtasan muna ay ang pinakapangunahing anyo ng pagiging maingat, na inilapat sa pinakamataas na pusta na desisyon na gagawin natin, hindi takot sa pag-unlad.
Ang Pundasyong Nakada ay hindi nakikipagtalo laban sa AI, at hindi nakikipagtalo laban sa isang mabuting kinabukasan. Ito'y nangangatuwiran sa paggawa ng preno bago ang kotse ay umabot sa buong bilis. Kung nais mo ng kasaganaan na ipinangangako ng mga swiftist, ang pinakatiyak na paraan upang makuha ito ay tiyakin na tayo'y makaliligtas upang masiyahan dito. Ang Atin plano ay kung ano ang hitsura ng "kaligtasan muna" sa pagsasanay.