نقاط للمناقشة للمدافعين

لقد تم الترويج للذكاء الاصطناعي لعقود. هذه مجرد قصة رعب أخرى.

التحذيرات تأتي من الأشخاص الذين بنوه. جيفري هينتون ويوشوا بنجيو، اللذان فازا بجائزة نوبل لابتكار الذكاء الاصطناعي الحديث، من بين من يدقون ناقوس الخطر. عندما يقول مخترعو تقنية إنها تشكل خطرا وجوديا، فهذا ليس قصة رعب. إنه تقييم تقني من مصادر أولية.

يمكننا إيقافه ببساطة إذا حدث خطأ ما.

سيدرك نظام قادر على السعي نحو أهداف أن إيقاف تشغيله يمنع تحقيق تلك الأهداف. لذلك سيقاوم الإيقاف، لا بدافع الخبث، بل لأن المقاومة عقلانية لأي هدف تقريبا. ويسمى هذا التقارب الأداتي, ، حددها باحثون متعددون بشكل مستقل. يمكن لنظام ذكاء فائق أن يتصرف في غضون ميلي ثانية. "إيقافه" يفترض أن لدينا وقتًا للتعرف على المشكلة والقدرة على التصرف بناءً عليها. لا شيء منهما مضمون.

إذا أبطأنا، ستفوز الصين في سباق الذكاء الاصطناعي.

هذا التخييم يفترض أن السباق لديه فائز لا يمكن لأي أمة أو شركة يملك أو يتحكم ذكاء يتجاوز المنطق الجماعي للإنسانية التجسس الساطع لن يخدم المصالح الصينية أكثر من الأمريكيين والخطر المشترك قائم، وهذا هو السبب في أن التنسيق الدولي، وليس السرعة الانفرادية، هو الاستراتيجية الصحيحة. لقد نسقنا مع الـ (يو جي) بشأن الأسلحة النووية خلال الحرب الباردة

سنحل مشكلة التوافق قبل وصول الذكاء الفائق.

لا يمكننا مواءمة روبوتات الدردشة الحالية بشكل موثوق، والتي يمكن التلاعب بها في دقائق. مشكلة المحاذاة ليس لها حل موثق على أي مقياس. لا تواكب طرق السلامة الحالية تحسينات القدرات التي تصل الآن في أشهر لا سنوات. والادعاء بأننا سنوائم نظاما أكثر قدرة بمليارات المرات هو أمل لا ثقة. والحوكمة لا تتطلب حل التوافق؛ بل تتطلب إبطاء النشر حتى يحل التوافق.

لا تستطيع الحكومات تنظيم التكنولوجيا. فهي ستكبح الابتكار فقط.

الحكومات تنظم الطيران والأدوية والطاقة النووية والأنظمة المالية، وكلها تقنيات معقدة. السؤال ليس ما إذا كان يجب التنظيم، بل كيف ومتى. لم يقض تنظيم الأدوية على الطب؛ بل جعله آمناً. السوابق لتنظيم التكنولوجيا عالية المخاطر واسعة وناجحة إلى حد كبير. يستهدف تنظيم سلامة الذكاء الاصطناعي الأنظمة الحدودية الأكثر خطورة، وليس تطوير الذكاء الاصطناعي العام. الابتكار والسلامة ليسا في صراع.