Panganib sa Pag-uudyok ng AI:
Ang Banta sa Epistemikong Autonomiya

Madaling nakatuon ang mga talakayan tungkol sa AI safety sa mga senaryong malayo pa: mga superintelligent system na may maling layunin, treacherous turns sa mga threshold ng kakayahan na hindi pa naaabot. Iba ang AI persuasion risk. Naroroon na ang pangunahing anyo ng banta sa mga sistemang available ngayon, nakakaapekto sa mga eleksyon at pampublikong diskurso sa kasalukuyan. Ang mas mapanganib na pangmatagalang bersyon ay extrapolation lamang ng teknolohiyang mabilis na umuunlad, hindi isang purong hypothetical na hinaharap.

Ang pangmatagalang bersyon (AI na kayang i-modelo at samantalahin ang indibidwal na sikolohiya nang may superhuman precision) ang direksyon kung saan patungo ang teknolohiya.

Naging mas madali na ang propaganda dahil sa mga naunang teknolohiya. Nagagawa ng AI ang isang bagay na medyo naiiba: lubhang personalisadong mapanghikayat na messaging sa malawakang paraan, na nababagay sa indibiduwal na sikolohikal na mga katangian, na binago sa tunay na panahon batay sa mga pagtugon. Ang kombinasyon ng personalisasyon, laki, at mababang halaga ay lumilikha ng kakayahan para sa impluwensiya na hindi napantayan ng dating kagamitan.

Ano ang nagpapakaiba ng AI persuasion

Ang tradisyonal na influence operations (broadcast advertising, political messaging, state propaganda) ay umaabot sa maraming tao gamit ang parehong mensahe. Ang mensahe ay maaaring maingat na ginawa at malawakang nasubok, ngunit ito ay kinakailangang kompromiso sa pagitan ng iba't ibang audience. Ang isang skilled human persuader ay maaaring iangkop ang kanilang approach sa partikular na taong kausap nila, ngunit limitado lang ang bilang ng taong maaari nilang kausapin. Ang dalawang kakayahang ito (broadcast scale at individual personalization) ay historically nasa tensyon.

Nawawala ng AI ang tensyong ito. Ang isang sistema na may access sa indibidwal na data (browsing history, social media, prior responses) at ang kakayahang makabuo ng iba't ibang persuasive content ay maaaring sabay na maabot ang milyun-milyong tao at iangkop ang bawat interaksyon sa partikular na indibidwal. Ang marginal cost ng pagbuo ng isa pang personalized persuasive message ay papalapit sa zero. Maaaring mag-iterate ang sistema batay sa kung aling mga approach ang gumagana at alin ang hindi, sa real time, sa sukat na hindi kayang pantayan ng anumang human influence operation.

Ang problema sa kawalan ng simetriya

Lubhang concentrated ang kapangyarihan ng AI persuasion. Ang pag-deploy ng persuasion-optimized AI sa malaking sukat ay nangangailangan ng malaking resources, data, compute, engineering capability, at access sa distribution channels. Pinapaboran ng mga requirement na ito ang mga well-resourced actors: malalaking korporasyon, nation-states, at wealthy individuals. Wala namang katumbas na counter-capability ang mga tinatarget. Maaaring makakuha sila balang araw ng AI tools na tutulong sa kanila na suriin ang mga content na nakikita nila, pero ang offensive at defensive asymmetry ay pabor sa attacker sa malapit na panahon.

Ito ay isang istruktural na problema, hindi problema tungkol sa anumang partikular na piraso ng disinformation. Kahit na ang bawat indibidwal na claim sa isang AI-enabled influence operation ay teknikal na totoo, ang sistematikong pagta-target ng psychological vulnerabilities sa sukat ay sumisira sa epistemic environment na nakadepende sa demokratikong deliberation. Ang layunin ng influence operations ay hubugin kung paano nararamdaman ng mga tao ang mga isyu, kandidato, at institusyon sa mga paraang nagsisilbi sa interes ng operator, hindi kinakailangang linlangin.

Ang ebidensya sa malapit na panahon

Naidokumento na ang AI-generated influence content sa mga pambansang halalan sa maraming bansa mula noong 2023. Natukoy at naiulat ng mga independent researchers at platform security teams ang mga impluwensya gamit ang AI para gumawa ng synthetic media, gumawa ng pekeng quotes mula sa tunay na public figures, at gumawa ng high-volume coordinated posting sa sukat na mangangailangan ng malalaking team ng tao. Lalong nahihirapang matukoy ang mga operasyon dahil lalong gumaganda ang AI-generated content, at nahuhuli pa ang mga detection tools sa mga generation tools.

Ang panganib ay naroroon sa kasalukuyang kapaligiran ng teknolohiya, umaapekto sa tunay na mga prosesong pampolitika, at ang trajectory ay tungo sa mas may kakayahan at mas matigas na-to-detektibong mga kasangkapang panghikayat. Ang tanong ay kung ano ang mga tugon ng pamamahala ay proporsiyonado at mabisa, hindi kung dapat bang ituring ito bilang isang tunay na panganib.

Ang pangmatagalang escalation

Epektibo ang kasalukuyang AI persuasion tools ngunit hindi pa na-optimize para sa persuasion sa fundamental na antas. Ang mga future system na may mas sopistikadong modelo ng indibidwal na psychology, mas detalyadong data tungkol sa mga indibidwal, at mas malaking kapasidad para sa long-run relationship simulation ay maaaring maging mas epektibo nang malaki. Ang isang sistema na makakabuo ng persistent model ng beliefs, concerns, at psychological vulnerabilities ng isang indibidwal, at makakipag-ugnayan sa kanya sa loob ng mga linggo o buwan, ay makakapagdulot ng epekto na higit pa sa naaabot ng kasalukuyang tools.

Ito ang anyo ng AI persuasion risk sa dulo ng spectrum ng superintelligence: hindi simpleng mass disinformation, kundi indibidwal na targeted long-run epistemic manipulation ng mga sistema na may mas mahusay na modelo ng human psychology kaysa sa anumang kasalukuyang tool. Ang koneksyon sa mga senaryo ng nag-iisang entidad at pagkakandado ng halaga ay direkta: ang isang aktor na may lubos na epektibong AI na mga tool sa panghihikayat ay maaaring gumamit ng mga ito upang hubugin ang opinyon ng publiko tungkol sa mismong pamamahala ng superintelihensya, na ginagawang mas mahirap para sa mga demokratikong institusyon na magpataw ng mga hadlang na maglilimita sa kapangyarihan ng aktor.