أنا متفائل بالتأكيد الجنس البشري لن ينقرض هذا لم يحدث من قبل تَسْمعُه بعد لوحاتِ الأمانِ، في الغرفِ الخضراءِ وخيوط التعليقِ، عَرضَ لإغلاق الموضوعِ: الحذر كa عيب شخصيِ، دافع كصحّةِ عاطفيةِ، a خطر يَدْعي تَهريب داخل a مزاج.

يُسمح بالتفاؤل، لكن ليس معاملة المزاج كدليل.

ما يقوله "لم يحدث من قبل" فعلياً

انقراض البشرية، بحكم التعريف، ليس له شهود بشريون بعده. كل إنسان حي يأخذ عينة من الخطوط الزمنية التي استمرت فيها النوع. سمّه انتقاءً، لا فلسفة: الفائز باليانصيب مصدر سيئ لتقدير احتمالات الفوز، و«لم أمت قط في حادث سيارة» حجة ضعيفة ضد أحزمة الأمان.

سجل الأحافير أقل عاطفية. الغالبية العظمى من الأنواع التي عاشت على الإطلاق قد انقرضت. وقد أزالت عدة انقراضات جماعية الطريق لما جاء بعدها. الإنسان العاقل شاب في الزمن الجيولوجي وقد مر بالفعل عبر عنق الزجاجة والأوبئة والحروب التي كان من الممكن أن تنهينا في رمية نرد أبرد. "لم يحدث من قبل" هو بيان عن الشريحة الرقيقة من التاريخ التي لا يزال بإمكاننا مناقشتها.

المرات الأولى هي ما تصنع منه الكوارث

قبل عام ١٩٤٥ لم تُدمر مدينة بقنبلة واحدة. وقبل عام ١٩١٨ لم تنتقل جائحة عبر شبكات السكك الحديدية والسفن العالمية بهذه السرعة. وقبل أعمال الأوزون في الثمانينيات لم يُجرِ أحد التجربة البشرية المتمثلة في إضعاف الطبقة التي تحول دون وصول الأشعة فوق البنفسجية إلى تعقيم سطح الأرض. وكل واحدة من تلك الحالات كانت، قبل حدوثها، أمرا لم يسبق له مثيل. ولم ينتظر الفاعلون حتى تتوفر حالة مكتملة كدراسة حالة.

يندرج الذكاء الفائق / الذكاء الخارق في تلك الفئة. لا توجد سلسلة تاريخية من الذكاءات الفائقة / الخارقة غير المتوائمة للمتوسط عليها. هناك آلية: أنظمة تسعى إلى أهداف، وتحسن قدراتها الذاتية، وتتفوق في النهاية على المؤسسات المخصصة لتصحيحها. الآلية هي ما تستخدمه عندما تكون المعدلات الأساسية صامتة. المطالبة بإبادة بشرية سابقة من الذكاء الاصطناعي قبل أخذ الآلية على محمل الجد يعني المطالبة بالجثة قبل التشخيص.

تبدو كل كارثة أولى مسبقاً وكأنها شيء لم يحدث من قبل أبداً.

التفاؤل الموجه بشكل صحيح

هناك نسخة من التفاؤل أحترمها. تقول: لقد نسق الناس تحت الضغط من قبل. وقد صمدت المعاهدات. وأُجبرت الصناعات على تغيير مسارها عندما كان العلم واضحاً وتنظمت السياسة. ال سجل التقييد وتمتد من تحديد الأسلحة النووية إلى المواد الكيميائية التي تأكل طبقة الأوزون. هذا التفاؤل يشير إلى الوكالة يفترض أن المستقبل لا يزال قراراً

النسخة الخضراء تفعل العكس. تعامل البقاء كإعداد افتراضي للكون والقلق كسوء أدب. تخلط بين "أفضل النتائج الجيدة" و"النتائج الجيدة محتملة إذن".

عندما وضع جيفري هينتون ويوشوا بنجيو ومئات الباحثين مخاطر الذكاء الاصطناعي على مستوى الانقراض في القائمة نفسها مع الأوبئة والحرب النووية، كانوا يفعلون ما يفعله الخبراء عادة حين يبدو الآلية سليمة والجانب السلبي شاملاً، لا يسعون لدور الأشرار في عرض تقني. يمكنك الاختلاف مع أرقامهم. لكن لا يمكنك رفض الفئة بإعلان نوع شخصيتك.

تكلفة إغلاق الموضوع

إذا أُعيد تشكيل الحديث عن الإنقراض كمشكلة حية، فإن البناء يستمر بدون قتال. ثم الخطوة الأدب هي تغيير الموضوع إلى الإنتاجية والتطبيقات. في هذه الأثناء مقياس المختبرات، الصمامات تتلاشى، مشكلة التحكم لا يزال غير محلول. تم الخلط بين المزاج والحوكمة.

أريد أن تستمر البشرية. إرادته هي النصف السهل. أما النصف الأصعب فهو رفض مسار تطوير يركز قوة غير قابلة للتصحيح في أنظمة لا يستطيع أحد إيقافها بشكل موثوق، والقيام بالعمل السياسي الذي توقف ملزم يتطلب. إذا كان التفاؤل يعني فقط "التوقف عن الحديث عن الجانب السلبي"، فقد أصبح تهويدة.

لم ننقِل أبداً، وهذا ليس دليلاً على أننا سننجو من التجسس.