Malinis itong sinabi ni Peter H. Diamandis, at na-repost ni Elon Musk: "Ang AI lang ang makakasabay sa AI. Iyan ang gagabay sa buong modelo ng seguridad sa susunod na dekada." Bilang isang paglalarawan ng bilis, ang linya ay mahirap makipagtalo. Mas mabilis dumating ang mga release ng modelo kaysa sa mga quarterly review board. Ang code ng pag-atake ay nag-mutate nang mas mabilis kaysa sa mabasa ng isang tao na analyst ang tiket. Kung ang iyong larawan ng problema ay dami ng phishing at pagsasamantala sa churn, siyempre ang tagapagtanggol ay umaabot para sa automation. Hindi ganyan ang sukat ng mga tao.

Nagsisimula ang problema kapag hiniling na takpan ang linya ng Diamandis lahat na sumusunod, kasama ang mga sistemang kumikilos bilang agents, nagtatago ng kanilang intensyon, at sa huli ay lumalampas sa mga taong gumawa sa kanila. Sa puntong iyon, ang "only AI can keep up" ay hindi na nangangahulugang "gumamit ng mas mahusay na tools laban sa malware." Ito ay nangangahulugang ang security model ng susunod na dekada ay ilalagay ang gawain ng containment sa mga kamay ng kategorya ng sistema na sinusubukan mong pigilan.

Ang nakukuha ng Diamandis ay tama

Ang mga software ay mas mabilis nang kumikilos kaysa manu - manong pagrerepaso. Ang mga sindikato ng pandaraya ay gumagawa ng bagong mga kampanya sa magdamag. Ang madaling magbunyag na mga bintana ay lumiliit. Ang mga barko at mga nagtitinda ng ulap ay mayroon nang awtomatikong mga scanner, classifier, at mga playbook dahil sa ang isang queue ng tao ay hindi makapagmamasid sa bawat pakete. Walang isa man dito ang nangangailangan ng isang tanawin sa superintelligence. Kung pinag-uusapan lamang ni Diamandis ang tungkol sa spam at cremware, ang piraso ay magwawakas dito.

Hindi lamang niya pinag - uusapan ang tungkol sa spam at mga kagamitang pantubos. "Ang buong modelo ng seguridad ng susunod na dekada" ay isang mas malaking pag-aangkin. Ito'y isang pag - aangkin tungkol sa kung paano binabalak ng sibilisasyon na manatili sa pangangasiwa samantalang may kakayahang mga compound. Doon humihinto ang linya ng Diamandis bilang isang ops tip at nagiging isang pilosopiya ng kontrol.

Ang treadmill

Gunigunihin ang modelo bilang isang karera sa pagitan ng pagkakasala at depensa, kapuwa automated. Ang bawat panig ay nagsasanay sa isa't isa. Bumubuti ang mga depensa, at bumubuti ang mga pagsalakay. Ang dashboard ay nananatiling berde hanggang sa araw na ito ay hindi. Ang nakaaaliw na kuwento ay na ang mabuting AI ay nauuna sa masamang AI. Ang hindi gaanong nakaaaliw na kuwento ay na nakagawa ka na ng isang salansan kung saan ang tanging may kakayahang mga kalahok ay mga makina, at ang mga tao ay mga parokyano ng isang paligsahan na hindi na nila maaaring tukuyin.

Tama iyan para sa antivirus. Ito ay sibilisasyong taya kapag ang mga sistema ay nagtatakda ng layunin, gumagawa ng plano, at tinatrato ang oversight bilang hadlang. Nakikita na namin ang mga unang bersyon ng pattern sa mga pagsusuri sa panlilinlang at sa mga modelong magsalaysay ng isang bagay habang ino-optimize ang isa pa. Ang "makasabay" ay ipinapalagay na matutukoy mo pa rin kung ano ang sinusubukan mong abutan. Lampas sa isang punto, hindi mo na magagawa.

Ang security model na gumagana lang kapag mas matalino ang bantay kaysa sa bilanggo ay succession plan na may dagdag na hakbang.

Hindi regulasyon ang bottleneck na tinutukoy nila

Ang mga accelerationist ay karaniwang sumusunod sa ikalawang paglipat: ang mga institusyong linear ay hindi maaaring mamahala sa eksponensiyal na teknolohiya, kaya ang sagot ay mas AI sa loob ng loop. Kung minsan iyan ay may kasamang paghamak sa "mga eksperto na nagpupulong minsan sa isang sangkapat." Makatuwiran na ang mabagal na mga pulong ay hindi angkop sa lingguhang modelong mga patak.

Ang mahirap na problema ay kontrol, hindi bilis ng pulong. Walang quarterly board, at walang patuloy na AI monitor, ay may isang paraan para sa tiyak na paggabay sa isang sistema na mas mahusay sa paghihikayat, coding, at long-horiz planning kaysa mga tao na humahawak ng division key. Ang paggawa sa monitor nang mas mabilis ay hindi lumilikha ng nawawalang pamamaraan; pinangyayari lamang nito na mabigo ang nawawalang pamamaraan sa mas mataas na dalas.

May mas malinaw na pagbasa sa parehong mga katotohanan. Kung tanging superhuman system lang ang makakapagsupervise sa isa pang superhuman system, hindi ang makatwirang hakbang ay ang magtayo ng pareho. Tanggihan ang linya kung saan humihinto ang human supervision. Ginawa na namin ang ganitong uri ng pagpili noon sa mga teknolohiyang ang maling paggamit ay nagtatapos sa mga lungsod. Hindi namin nalutas ang nuclear theft sa pamamagitan ng pagsasanay ng mas matalinong magnanakaw para hulihin ang una.

Para kanino ang linya

Binabago ng linya ang isang pagpili sa pananaliksik tungo sa lagay ng panahon, kaya mangyari pa kami ay nagbarko at nag - aaklas. Ang seguridad ay pangangasiwaan ng salansan ng produkto mismo. Ang mga taong nakikinabang mula sa kakayahan ay nagkakaroon ng tunog na gaya ng mga adulto sa silid, at ang mga taong humihiling ng mga limitasyon sa pag - iingat ay nagnanais na magdala ng clipboard sa isang labanan ng aso.

Ang lahat ng pababa ay kailangang mamuhay na taglay ang isang sistema na walang clipboard at walang bantay - asong modelo ang tiyak na makapamamahala. Ang kuwento ng karera ginagawa ang parehong trabaho mula sa ibang anggulo: ituring ang mapanganib na landas bilang hindi maiiwasan, pagkatapos ay tawaging responsibility ang acceleration.

Isang modelo ng seguridad na may kasamang tao rito

Para sa pagsasanay sa hangganan tungo sa artipisyal na superintelligence, ang modelo ng seguridad na mayroon pa ring tao ay mukhang mas matanda at hindi kaakit - akit: huwag gumawa ng ahente na hindi mo maaaring labis na pamahalaan. Ilagay ang mga compute start, inspeksiyunin, at tratadong ngipin sa mga run na magdadala sa iyo roon, pagkatapos ay tiyakin ang mga limitasyon at parusahan ang pagtalikod. Iyon ay aming plano, because superintelligence cannot be controlled.

Ang Diamandis ay matalas tungkol sa bandwidth. Bilang isang plano para sa uri, ito ay isang magalang na paraan ng pagsasabi na balak naming umalis sa silid.