Bago ipadala ang isang bagong gamot sa Estados Unidos, kailangang ipakita ng isang tao ang kaligtasan at bisa sa ilalim ng mga patakaran na maaaring pigilan ang paglulunsad. Karamihan sa software ay nagpapadala pa rin muna at humihingi ng paumanhin pagkatapos. Ang pattern ng FDA ang tanong na patuloy na iniiwasan ng patakaran sa AI: patunayan muna bago hindi na maibabalik ang pinsala.

Ang pharmaceuticals ang malaking pagbubukod. Hindi puwedeng maglabas ang drug company ng gamot at hintayin na lang ang mga bangkay. Kailangan nitong patunayan ang kaligtasan at bisa sa Food and Drug Administration sa pamamagitan ng staged clinical trials bago kung maaari nitong ibenta ang produkto. Nasa developer ang burden of proof, at nasa bago pa ng deployment. Ang FDA model para sa AI ay nagtatanong kung ang frontier AI, na mayroong mga katangiang nagpaliban sa gamot, ay dapat pamahalaan sa parehong paraan.

Bakit kaakit-akit ang analogy

Ang mga dahilan kung bakit nakukuha ng mga gamot ang pagsang-ayon ng pre-market ay mga dahilan na kumakapit sa hangganang AI.

  • Nabaliktad ang burden of proof. Dapat ipakita ng developer na ang produkto ay ligtas, sa halip na isang regulator o ang publiko na kailangang ipakita ito ay mapanganib pagkatapos ilabas. Iyan ang mismong ipinangangatuwiran ng Pundasyon mga kaso ng kaligtasan at mga patakaran sa scaling.
  • Ang pag-apruba ay nauuna bago ang deployment. Nangyayari ang check habang nakakulong pa ang system, hindi pagkatapos na malaya na ito sa mundo, at iyan lang ang punto kung saan natatalo ng prevention ang reaction.
  • Ang staged testing ay sumasabay sa risk. Ang mga clinical trial ay nagpapatuloy sa mga phase, bawat gate ay nangangailangan ng ebidensya bago ang susunod. Natural itong naaangkop sa capability thresholds para sa AI.

Para sa isang teknolohiya kung saan ang ilang pagkabigo ay maaaring malubha at mahirap baliktarin, ang isang rehimeng tumatangging payagan ang pinakamataas na panganib na system na lumabas hanggang sa affirmatively na maipakita ang kaligtasan ay isang seryoso at kaakit-akit na panukala.

Kung saan nahihirapan ang modelo

Ang analogy ay gabay, hindi template, at ang mga pagkakaiba ay nagtuturo.

Ang gamot ay isang nakapirming molekula na gumagawa ng isang partikular na bagay sa isang katawan, na pinag-aralan sa pamamagitan ng isang mature na agham na may mga quantified na panganib. Ang isang modelo ng hangganan ay pangkalahatang layunin, na ginagamit para sa mga bukas na gawaing walang ganap na nabanggit, na may mga kakayahang maaaring lumabas nang hindi inaasahan at behavior na maaaring magbago pagkatapos i-deploy sa pamamagitan ng fine-tuning o bagong tools. Maaari mong tukuyin kung ano ang ibig sabihin ng ligtas para sa isang gamot sa blood pressure. Ang pagtukoy kung ano ang ibig sabihin ng ligtas para sa isang general reasoning system ay ang hindi pa nasasagot na problema sa gitna ng larangan, at ang agham na kailangan ng isang reviewer na katulad ng FDA ay madalas ay wala pa.

Mayroon ding border problem. Pinamamahalaan ng FDA ang isang pambansang merkado na may matitigas na gilid. Pwedeng sanayin ang isang mapanganib na model kahit saan at kopyahin kahit saan, kaya ang national pre-approval lamang ay nag-iiwan ng puwang na tanging international coordination lang ang makakapagsara, na sinusuportahan ng mga pisikal na chokepoints ng pamamahala sa compute.

Ang modelo ng FDA ang nagbibigay sa atin ng tamang prinsipyo—patunayan ang kaligtasan bago ilabas—at nagpapaalala kung gaano pa karami ang kulang sa underlying safety science.

Patunayan itong ligtas bago ito maglayag

Mas mahalaga ang modelo ng FDA hindi bilang blueprint na kokopyahin kundi bilang patunay na normal, magagawa, at tinatanggap ang pre-market approval para sa mga produkto kung saan masyadong seryoso ang downside para hawakan sa pamamagitan ng recall. Sumang-ayon na ang lipunan, sa kaso ng gamot, na kailangang patunayan ang kaligtasan ng ilang bagay bago ito makarating sa atin. Ang pagpapalawak ng prinsipyong iyon sa frontier AI systems na maaaring maging pinakamalala ang kabiguan ay ang paglalapat ng umiiral na pamantayan sa bagong teknolohiyang malinaw na kwalipikado, na inihahatid sa pamamagitan ng halo ng domestic requirement at international framework na inilatag sa aming plano, hindi isang radikal na kahilingan.