Karaniwang nasa loob ng lab, nasa ilalim ng NDA, at nakikita ang launch calendar ang mga unang nakakakita ng mapanganib na training run. Ang whistleblower protection ang dahilan kung bakit nagiging sistema ng babala ang mga taong ito sa halip na sistema ng katahimikan. Hangga’t wala pang external inspectors, ang mga insider ang mga smoke detector.

Ang frontier AI researchers ay may vantage point na wala pang regulator o inspector ngayon, at madalas silang nakatali sa mga kontrata at non-disparagement clauses na ginagawang magastos o career-ending ang pagsasalita. Ang pagprotekta sa kakayahan nilang magbabala ay isa sa mga pinakamadaling at hindi gaanong napapansin na levers sa superintelihensya governance.

Bakit napakahalaga ng insiders para sa AI

May kakaibang problema sa transparency ang Frontier AI. Ang pinakamahahalagang desisyon—kung paano sinanay ang isang model, anong safety testing ang natanggap nito, anong nakakabahala na pag-uugali ang lumitaw, kung may mga babala bang hindi pinansin—nangyayari lahat sa loob ng mga pribadong organisasyon, hindi nakikita ng mga tagalabas. Kulang ang mga regulator sa access at madalas sa expertise para makita ito nang independyente. Sa ganitong kalagayan, ang mga researcher at engineer na may direktang kaalaman ang tanging mga taong nakaposisyon para matukoy at iulat na may mali nang hindi pa ito naging pampubliko sa pinakamasamang paraan.

Noong 2024, ang isang grupo ng mga kasalukuyang at dating empleyado ng mga nangungunang kompanya ng AI ay naglathala ng isang bukas na liham, 'A Right to Warn tungkol sa Advanced Artificial Intelligence', na nangangatwirang ang mga kasunduang lihim ay humahadlang sa kanila sa pagtataas ng mga pagkabahalang pangkaligtasan at pagtawag ng mga proteksiyon upang payagan ito. Na ang gayong liham ay kinakailangan ay katibayan mismo ng problema: ang mga tao na pinakamalapit sa panganib na ipinalalagay na legal at propesyonal na hindi makapagsalita tungkol dito.

Ano ang humahadlang sa kanila

  • Mga kasunduang may paghihigpit. Malawak na confidentiality at non-disparagement clauses (minsan nakatali sa vested equity na nagkakahalaga ng milyon-milyon) ay maaaring gawing lubhang mapanganib sa pananalapi ang pagsasalita.
  • Legal na pagkakalantad. Kung walang malinaw na protektadong channel, ang isang empleyado na nagbubunyag ng mga alalahanin ay may panganib na mademanda para sa paglabag sa kontrata o paglabag sa trade-secret.
  • Mga puwang sa kasalukuyang batas. Pinoprotektahan ng tradisyonal na whistleblower statutes ang pag-uulat ng ilegal na aktibidad, pero karamihan sa mapanganib sa frontier AI ay hindi pa ilegal, kaya hindi protektado ang mga pagsisiwalat tungkol sa lawful-but-reckless na pag-unlad.
  • Panganib sa karera. Sa isang maliit na larangan, ang impormal na halaga ng pagiging itinuturing na disloyal ay maaaring magwakas sa karera kahit saan ipinagbabawal ang formal retaliation.

Ano ang hitsura ng tunay na epektibong proteksyon

1

Mga protektadong channel para sa pagbubunyag

Mga legal na garantisadong ruta para sa mga manggagawa sa AI na mag-ulat ng mga alalahanin sa kaligtasan sa regulator o oversight body, protektado mula sa pananagutan, kahit na ang isiniwalat na gawain ay hindi ilegal.

2

Mga limitasyon sa mga kontratang nagpapatahimik

Mga paghihigpit sa paggamit ng confidentiality at non-disparagement clauses para pigilan ang pagtatago ng good-faith safety concerns, para hindi mawala sa empleyado ang vested compensation kapag nag-ulat ng panganib.

3

Mga garantiya laban sa paghihiganti

Matatag at maipapatupad na proteksyon laban sa pagtanggal, blacklisting, o iba pang ganting-salarin para sa protektadong pagbubunyag, kasama ang tunay na mga remedyo.

4

Isang katawan na tatanggap ng mga babala

Isang oversight authority (regulator o safety institute) na may mandato at kadalubhasaan para kumilos sa mga pagsisiwalat sa halip na hayaan itong mawala na lang.

Hangga't hindi natin masisiyasat ang mga lab mula sa labas, ang mga tao sa loob nila ang ating smoke detector. Batas na nagpapatahimik sa sariling mga mananaliksik ng isang kumpanya tungkol sa isang catastrophic risk ay batas na nagpapatahimik sa alarma.

Mapapamahalaan, at tulay patungo sa higit pa

Ang whistleblower protection ay may bihirang kalidad sa pamamahala ng superintelihensya: ito ay makakamit sa pamamagitan ng ordinaryong domestic legislation, nang walang treaty, nang walang international consensus, at nang walang paglutas sa mga mahihirap na tanong tungkol sa thresholds at verification. Ang anumang hurisdiksyon na nagho-host ng frontier labs ay maaaring ipatupad ito unilaterally, at ang paggawa nito ay agad na magpapalakas sa kakayahan ng mundo na makita ang mapanganib na pag-unlad. Ito rin ay isang tulay patungo sa mas mahirap na pamamahala: ang protected disclosures na pinapagana nito ay nagbubunga ng eksaktong uri ng inside information na aasahan ng mga regulator at, sa huli, ng isang international verification regime. Ang pagbuo ng external verification ay aabutin ng mga taon. Ang pagprotekta sa mga insider na makakapagbigay ng babala sa atin sa pansamantala ay isang bagay na magagawa ngayon ng mga legislatures, at ito ay kabilang sa mga pinakamataas na leverage na safety measures na magagamit bago umiral ang isang treaty.