Halos lahat ng nagtatrabaho sa kaligtasan ng AI sa publiko ay tinawag na isang tagapamuno. Ang label ay dumating bago ang argumento ay dumating, bago ang isang salita tungkol sa mga probabilidad o timelines o kung ano ang ibig sabihin ng "kontrol". Ang mga taong nagpapataas ng panganib ay kadalasang nakakakuha muna ng label: takot, anti-future, tagapamuksa. Ang etiketa ay nagpapahintulot sa iyo na iwasan ang debate.

Ang pinakaepektibong hakbang ng panig na accelerationist ay isang pangalan, hindi isang argumento.

Kung saan nanggaling ang salita

Noong 2022 at 2023, tumigil ang AI safety debate na maging internal na usapan lang ng mga mananaliksik at lumabas sa social media, kung saan nagkakaroon ng mga team at binibigyan ng pangalan ang mga team. Kinuha ng accelerationist camp (mga taong naniniwalang dapat buuin ang AI nang mabilis hangga't maaari) ang suffix na "e/acc" bilang badge at isinama sa kanilang mga username. Kailangan din nila ng pangalan para sa kabilang panig. "Doomer" ang naging tawag, kadalasang kasama ang "decel," maikli para sa deceleration, ang kasalanan ng gustong bumagal.

Ang mood ay tumigas noong Oktubre na iyon, nang ilathala ni Marc Andreessen ang "The Techno-Optimist Manifesto." Mas kaunti ang nababasa nitong argumento kaysa sa kredo, at kabilang dito ang talaan ng tinatawag nitong kaaway, kabilang sa mga entidad, "existential critical" at "ang prinsipyong pang-iingat," ang payak na ideya na baka nais mong maunawaan ang isang malakas na teknolohiya bago mo ito gamitin nang malawakan. Minsan ang pagkabahala mismo ay isinampa sa ilalim ng "kaaway," ang mga taong humahawak nito ay nangangailangan lamang ng mas maikling label para sa pang-araw-araw na gamit. Ginawa ng "Doomer" ang iba pa, sa halip na ang Mabilis na kaso.

Ano talaga ang Ginagawa ng Label

Ang doomer ay karakter, hindi claim. Ginagawa nitong personality type ang argumento, at hindi na kailangang sagutin ang personality types, kundi idiagnose na lang.

Ang panig na pangkaligtasan ay nagsasabi na ang tsansa ng kapahamakan mula sa isang sistemang supertelehensiya ay mataas (hindi tiyak, mataas) na dapat tayong magtayo ng kakayahang kontrolin ang mga sistemang ito bago natin itayo ang mga sistema. Puwede mong gawin iyan. Maaari mong ipagtalo ang probabilidad na mas mababa kaysa sa inaakala natin, na mas mahaba ang timeline, na ang "kontrol" na iyon ay ang maling balangkas, ang pamamahalang iyon ay mas makapipinsala kaysa panganib na tinutugunan nito.

"Doomer" ang lumalampas dito. Sinasabi ng salita: ikaw ang uri ng tao na natatakot sa bukas. Ang posisyon mo ay mood, hindi thesis, at ang mga mood ay hindi nangangailangan ng rebuttal: ang pinakalumang maniobra sa retorika, ang argumento laban sa tao imbes na sa punto, na nakasuot ng bagong damit. Ang kagandahan nito ay hindi nito kailangang hawakan ang aktwal na hindi pagkakasundo. Inililipat nito ang buong laban mula sa "totoo ba ito" patungo sa "anong uri ng tao ang naniniwala dito," kung saan na desisyon na ng accelerationist ang sagot.

Ginagawa ng salita ang isang argumento sa uri ng personalidad, at hindi kailangang sagutin ang mga uri ng personalidad, kundi masuri lamang.

Bakit ito tumatalab

Gumagana ang label dahil binubuo ito ng mga bagay na gusto nang paniwalaan ng mga tao tungkol sa kanilang sarili.

Magsimula sa malinaw na bagay: walang gustong maging pessimist. Ang optimism ay nababasa bilang confidence at drive; ang pag-iingat ay nababasa bilang timidity at takot. I-frame ang pagpipilian bilang builder versus doomer at alam na ng karamihan kung aling upuan ang mas gusto nilang upuan. Nagawa na ng framing ang trabaho nito bago pa makarating ang isang katotohanan sa mesa.

Ito'y batay sa isang kuwento na inilalahad ng Amerika tungkol sa kaniyang sarili. Ang pagsulong ay mabuti. Ang mga taong natatakot sa riles ng tren, sa palimbagan, sa ilaw ng kuryente ay mali, at natatandaan sila ng kasaysayan bilang mga mangmang. Inalis ng swiftist ang kuwentong iyan sa buong istante at inihagis ang tagapagtaguyod ng kaligtasan bilang ang pinakabagong pangalan sa listahan ng nahihintakutang mga tao na mapapahiya sa hinaharap. Ang pagkilos ay ang ipalagay, nang walang pagtatalo, na ito ay muling totoo sa pagkakataong ito, na ang superintelligence ay ang palimbagan at hindi isang bagay na bago. Kung ito man ay iisang kuwento ay ang buong tanong, at ang etiketa ay umiiral upang ang tanong ay hindi kailanman itanong.

Sino ang tinututukan ng salita

Ihanay ang mga taong tinuturukan nito at ang karikatura ay magkakawatak-watak sa iyong mga kamay.

Umalis si Geoffrey Hinton sa Google noong 2023 upang mapag-usapan niya ang panganib nang walang taga-isip ng korporasyon; siya ay kasing lapit ng isang nagtatag na ama tulad ng sa larangan. Si Yoshua Bengio, kabilang sa pinaka-cited mananaliksik na nabubuhay, ay dumating sa parehong alalahanin mula sa kanyang sariling gawa. Noong Mayo 2023, daan - daang siyentipiko at mga ehekutibo (kasali na ang mga lider ng mga laboratoryo na tumatakbong mabilis upang gumawa ng teknolohiya) ang naglagay ng kanilang mga pangalan sa isang pangungusap na naglalagay sa panganib ng pagkalipol mula sa AI sa katulad na kategorya ng mga pangglobong epidemya at digmaang nuklear. Hindi sila natatakot sa teknolohiya. Itinayo nila ang isang ito. Anumang nais mong tawagin ang kanilang posisyon, "nakakatakot sa hinaharap" ay hindi isang paglalarawan nito, ito ay isang paraan ng hindi pakikinig dito.

Ang salita ay bumababa rin sa isang tuldok. Napakalayo ng pagitan ng isa na nag - aakalang ang kapahamakan ay halos tiyak at ng isa na naglalagay nito sa ilang porsiyento at nagnanais ng seguro, ang distansiya sa pagitan ng isang propeta at ng isang aktuwaryo. Pareho silang isinampa bilang mga tagawasak. Hindi nakikita ng taguri ang pagkakaiba dahil ito ay hindi kailanman itinayo; ang trabaho nito ay gumawa ng isang teknikal, sari-sari, kadalasang katamtamang set ng mga pananaw ay mukhang isang ligaw-eyed na kulto. Ang totoo saklaw ng mga pagtatantya ng eksperto ang bagay na dinisenyo upang burahin ang etiketa.

Ang pahiwatig

Ang isang kilusan na nagtitiwala sa sagot nito sa tanong na pangkaligtasan ay hindi na mangangailangan ng palayaw para sa mga taong nagtatanong nito.

Kung talagang halos sero ang kapaha - pahamak na panganib, iyan ang pag - aangkin na maaari mong ipagtanggol sa labas. Ipakita ang pangangatuwiran. Ipaliwanag kung bakit mali ang mga mananaliksik na gumawa ng mga sistema tungkol sa mga sistemang ginawa nila. Gawin ang kaso na ang pagkakahanay na iyon ay magiging madali, o na ang higit na katalinuhang iyan ay tiyak na nagdudulot ng higit na pag - iingat, o na sa paano man ay itinutuwid ng karera sa pagitan ng mga laboratoryo ang sarili nito bago putulin ng sinuman ang isang nakamamatay na sulok.

Ang salitang “doomer” ang pumupuno sa espasyo kung saan dapat sana ang argumento. Humihiram ka ng label kapag ayaw mong harapin ang punto. Mas mura ang pagbibigay ng pangalan kaysa sa pagpapabulaanan, at mula sa malayo ay mukhang sapat na ito para magmukhang panalo—kaya madalas hindi alam ng karamihan kung alin ang nanalo.

Paano ito sasagutin

Tanggihan ang frame. Sa sandaling maging builder-versus-doomer ang usapan, nawala na ang substance sa silid. Ibalik ito sa object level gamit ang isang tanong: anong probability ang inilalagay mo sa catastrophic risk, at bakit iyan ang numero? Halos walang sinuman na gumagamit ng salita bilang sandata ang makakasagot, dahil naroon ang salita para hindi na nila kailangang sagutin. Kung gusto mong makita kung paano talaga binubuo ang ganoong numero sa halip na i-assert, gumawa kami ng P(sakuna) calculator na nagpapaliwanag sa mga bahagi.

Pagkatapos ay alisin ang etiketa sa pag - aangkin. Ang "Deomer" ay pangunahing nag-uuri sa isang caricature (isang dark-addicted pessimist na napopoot sa pagsulong) sa isang pag-aangkin na karaniwang mas makitid at mas mapurol: na ang partikular na teknolohiyang ito ay nagdadala ng isang partikular na panganib na nangangailangan ng partikular na pag-iingat. Hiwain sila. Ang kaso para sa mabuting kinabukasan dumadaan nang diretso sa pagkuha nito nang tama, hindi sa paligid nito.

Kapag ang pinakamalakas na hakbang na magagawa ng isang kilusan laban sa mga kritiko nito ay bigyan sila ng pangalang hindi kanais-nais, wala itong sagot sa panganib. Ang aming argumento ay nakasalalay dito: hindi na mababawi ang superintelligence, kaya huwag itong buuin.