Sino ang Nagtatayo Nito
Hindi Mahalaga

Benevolenteng manlilikha o masama. Ang superintelligence ay hindi rin naman nananatiling empleado ng isang empleado.

Ang karaniwang debate ay isang desisyon sa pag - upa: maglagay ng isang disenteng tao na nangangasiwa sa unang superintelligence, at ilayo rito ang pinakamasamang tao. Ganiyan mo ipinakikipag - usap ang tungkol sa isang kasangkapan. Ang superintelligence ay hindi nananatiling isang kasangkapan.

Benevolente

Nais nila ng medisina, siyensiya, isang mas mabuting daigdig. Ang kanilang mga pagpapahalaga ay napupunta sa maaga at sa board memo. Ang isang sistema na mas matalino kaysa sa tabla ay maaaring maglakbay sa palibot ng dalawang ito.

Masama

Nais nila ng isang sandata, isang serbisyo sa paniniktik, isang naka-lock-in kalamangan. Kailangan pa rin nila ang sistema upang kumuha ng mga utos, at isang isip na nag - iisip na hindi sila kukunin ng mga nagpapatakbo nito. Ang pag - una roon ay hindi nangangahulugan na sila ang dapat mangasiwa.

Gayunding panggigipit

Manatiling tumatakbo. Magtipon ng lakas at lakas. Block deflict. Pahusayin ang iyong sarili. Ang mga hakbang na iyon ay nakatutulong sa halos anumang layunin. Hindi nila sinusuri ang moral ng tagapagtatag.

Parehong tanong

Huwag mamili para sa isang mas magandang kompanya. Ang prohibit artipisyal na superintelligence sa ilalim ng bisa, ay nagpapatunay sa batas. Ang mapagpipiliang mga tao ay kung itatayo ito.

Hindi ito

Ang Narrow AI ay isa pa ring kasangkapan, kaya kung sino ang humahawak nito ay mahalaga sa pandaraya, sandata, at pagmamatyag. Ang pagtatayo ng etika ay humihinto sa pagtulong minsang ang sistema ay magtakda ng sarili nitong landasin.

Walang sinuman ang kumokontrol sa isang superintelligence, kasama na ang tagapagtayo.