يقول الأشخاص الذين يبنون الذكاء الفائق الاصطناعي (الذكاء الفائق) إنه قد ينهي البشرية.
إنهم يبنونه على أي حال.

مؤسسة ناكادا لإنقاذ الإنسانية هي مبادرة خيرية مكرسة لمنع المخاطر الوجودية للذكاء الفائق الاصطناعي.

قد يكون محاذاة عقل أذكى من عقلنا أصعب مشكلة في تاريخ الفكر البشري، ولا أحد يملك طريقة مثبتة لذلك. لا يمكن للبشر السيطرة على كيان أذكى من البشر. السبيل الموثوق هو منع بناء مثل هذه الأنظمة أصلًا. ذلك قرار دائم، لا وقفة.

ندعم التطبيقات الخاضعة للرقابة والمفيدة للذكاء الاصطناعي. فقد عالج الذكاء الاصطناعي الضيق أمراضًا بالفعل، وسرّع الاكتشافات، وحسّن التصوير والتشخيص الطبي. ما نعارضه هو بناء شكل من الذكاء لا نستطيع السيطرة عليه، ولا مواءمته، ولا إيقافه إذا اضطررنا لذلك.

نحن ندعو إلى معاهدة دولية لمنع تطوير الذكاء الفائق، مستوحى من أطر منع الانتشار النووي التي صمدت لما يقارب قرنًا.