أكبر خمس أساطير حول
حكم الذكاء الفائق

تفعل الاعتراضات على حكم الذكاء الفائق / الذكاء الخارق شيئًا ذكيًا. فهي تقر بالخطر ("بالتأكيد، ربما يكون محفوفًا بالمخاطر") ثم تنقل بهدوء الاستحالة من التقنية إلى الحل. إذا لم يمكن إنكار الخطر، فربما يُجعل الرد يبدو ساذجًا، أو خطيرًا بحد ذاته، أو ببساطة ميؤوسًا منه. والنتيجة واحدة كإنكار الخطر صراحة: لا يُفعل شيء.

القواعد ستخنق الابتكار وتسلم الصدارة للمتهورين. إنه مبكر جداً. وعلى أي حال لا يمكن للديمقراطيات أن تتفق أبداً. هذه هي الحجج التي تحول القلق إلى شلل.

فيما يلي الخمسة الأكثر تداولا مما أسمعه، معروضة بأقوى صيغة أستطيعها، لأن الرد على نسخة ضعيفة لا يقنع أحدا. وقد أجبت عن عائلة اعتراضات ذات صلة (أن الصين لن تمتثل، وأن الشركات ستنظم نفسها، وأننا نستطيع إيقاف نظام سيئ ببساطة) على صفحة الأساطير. هذه الخمسة تتعلق بالحوكمة نفسها.

"إدارة الذكاء الاصطناعي عالمياً تعني حكومة عالمية، واستبداداً."

ركز ما يكفي من السلطة في جسم واحد للسيطرة على أقوى التكنولوجيا على الأرض، وربما كنت قد بنيت آلية من الطغيان بالضبط كنت خائفا من التكنولوجيا. والأشخاص الذين لا يثقون في السلطة المركزية هم الحق في عدم الثقة فيها.

لكنه موجه إلى نسخة قش من الاقتراح. ما هو مطروح فعلاً هو نظام ضيق موجه إلى شيء واحد محدد: العدد القليل من جولات التدريب الكبيرة جداً القادرة على إنتاج نظام أقوى من أي إنسان في كل المجالات، لا سلطة عالمية على الحياة اليومية، أو على البرمجيات عموماً، أو على الهاتف في جيبك. النموذج هو نظام منع الانتشار النووي أو ال اتفاقية الأسلحة الكيميائية, ، اتفاقات مستهدفة تراقب المواد الانشطارية والمواد الكيميائية السليفة، وليست حكومات عالمية أذابت الدولة القومية. لا أحد يعتقد أن الوكالة الدولية للطاقة الذرية تدير الكوكب. إنها تراقب نشاطاً محدداً خطيراً وتترك كل شيء آخر وشأنه.

أضمن طريق إلى الاستبداد الدائم هو غيابه، لا المعاهدة. الذكاء الفائق غير المتحكم فيه، أو الذي تستحوذ عليه شركة واحدة أو دولة واحدة تحل مشكلة التحكم قبل الآخرين، هو أكمل أداة سيطرة يمكن تصورها، قوة لا تموت ولا تتعب وتستطيع تثبيت مجموعة واحدة من القيم إلى الأبد, ، بعد أي أمل في الثورة أو الإصلاح. انتهت كل طغيان في التاريخ لأن الطغاة فانون وآلتهم بشرية. هذا لا يحتاج أن يكون كذلك. إذا كنت خائفًا من السلطة غير المسؤولة (ويجب أن تكون) فإن اتفاق قابل للتنفيذ منع أي فاعل واحد من الاستيلاء على تلك القوة هو الموقف المناهض للسلطوية، وليس الموقف السلطوي.

"لا يمكنك التحقق منه. إنه مجرد برمجيات على خادم في مكان ما."

المعاهدات النووية تعمل، وتشكيلات المعاهدات تقول، لأنه يمكنك عد الرؤوس الحربية والكشف عن التخصيب؛ واليورانيوم بدني ونادرة. لكن النموذج مجرد أرقام لا يمكنك تفتيش ملف أي اتفاق سيكون مسرحاً غير قابل للتنفيذ، يُلزم الصدق ولا يفعل أي شيء عن الغش.

يبدو حاسماً حتى تلاحظ أنك تتحقق من الشيء الخطأ. أنت لا تراقب الأوزان؛ أنت تراقب ال الحوسبة التي تنتجها والحوسبة مادية ونادرة مثل اليورانيوم تقريبا. ويتطلب تدريب نظام حدودي عشرات الآلاف من الرقائق المتخصصة تعمل شهورا في منشأة واحدة وسلسلة التوريد هذه من أضيق نقاط الاختناق في الاقتصاد الحديث: فشركة هولندية واحدة تقريبا تصنع آلات الطباعة الحجرية وشركة تايوانية واحدة تصنع الرقائق الرائدة وشركة أمريكية واحدة تصمم البنية السائدة. وتستهلك العناقيد التي تستخدمها قدرا من الكهرباء يظهر في بيانات الكهرباء وصور الأقمار الصناعية. ويمكن عد الرقائق وتتبع بيعها وقياس الطاقة ومراقبة المباني. وتُحكم المواد الانشطارية بهذا المنطق بالضبط: تتبع المدخل المادي النادر ولا يمكن بناء السلاح سرا. دليل التحقق موجود بالفعل; ؛ المدخلات هنا تكون أكثر تركيزاً. إنه مشكلة هندسية, ومشكلات الهندسة لها حلول.

"سوف يخنق التنظيم الابتكار ويسمح للمتهورين بالفوز."

الصيغة القوية: يتقدم التقنية لأن شخصا ما حر في البناء، ومعظم التنظيم يكتبه أشخاص لا يفهمون ما يبطئونه، ويد ثقيلة على الذكاء الاصطناعي ستدفع أهم صناعة في القرن إلى من ينظم أقل. الأفضل حدود متقدمة معيبة هنا من حدود نقية في مكان معاد.

لا يقترح أي شخص جاد تنظيم "الذكاء الاصطناعي". الأنظمة المفيدة التي تطوي البروتينات، وتقرأ المسوحات، وتدرس الأطفال، وتصمم المناخ هي أدوات ضيقة قابلة للتحكم، واتفاق الذكاء الفائق يتركها تماماً وشأنها، ذلك مستقبل مشرق وعادي هو الذي نحاول حمايته. الهدف فئة خطرة واحدة: عمليات التدريب التي تسعى لقدرة عامة تتجاوز قدراتنا ولا يعرف أحد بعد كيف يجعلها آمنة. تقييد ذلك ليس أكثر "مناهضة للابتكار" من قواعد كسب الوظيفة المناهضة للبيولوجيا.

ثم النقطة الأصعب، تلك التي لا يواجهها منطق السباق أبدًا. الإسراع لا يحقق آمن معلومات خارقة عاجلاً إنه يسلّم شخصاً غير مأمون، ولا يخدم الإفراط في الإخفاء البلد أو الشركة التي بنيته، بل يهددهم مع الآخرين. عندما تقطع الزوايا تحت ضغط تنافسي، الزاوية التي يتم قطعها هي التي كانت ستجعل النظام قابلا للتحكم. إذاً "التجديد" الذي يُدافع عنه هنا هو الابتكار الذي أفضل نقطة نهاية هو نظام لا يستطيع صناعه توجيهه هذا هو الخطر بحد ذاته, مرتدياً التقدم كقناع.

"إنه سابق لأوانه. لا يمكنك تنظيم شيء غير موجود."

هذا يبدو كالنضج. لا تشرع ضد الأوهام؛ انتظر حتى تصبح التكنولوجيا حقيقية، افهم ما تتعامل معه، ثم اكتب قواعد تتناسب مع الحقائق بدلاً من التكهنات. تنظيم الافتراضات هو الطريقة التي تحصل بها على قوانين سيئة.

قد يكون حكمة مع أي تقنية أخرى تقريبا. لكنه فخ مع هذه التقنية، والسبب هو التوقيت. فالحوكمة بطيئة: استغرقت معاهدة منع الانتشار النووي سنوات للتفاوض، واستغرق بروتوكول مونتريال سنوات إضافية ليؤتي ثماره، وكانا الأسرع. إذا انتظرت حتى يوجد نظام فائق الذكاء بوضوح قبل البدء في بناء المؤسسات التي تحكمه، فستصل المؤسسات بعد سنوات من الشيء الذي كان من المفترض أن تحتويه، وهذه هي التقنية الوحيدة التي قد يترك الفشل الخطير الأول لا أحد لتمرير القانون الثاني. "انتظر الدليل" قاعدة سليمة عندما يكون الدليل قابلاً للنجاة. هنا الدليل هو الكارثة. ال المنطق الاحترازي هو الاعتراف بأن وقت الصدارة للعلاج هو أكثر من مجرد فتيل على المشكلة.

كل ضمانة فعالة لتقنية كارثية بُنيت قبل أو أثناء صعودها، وليس بعدها أبداً، لأن "بعد" لم يكن مطروحاً قط.

"الديمقراطيات بطيئة جداً ومستولى عليها. لن يمر أبداً."

أكثر التآكل هدوءاً من الخمسة لأنه يرتدي معطف الواقعية المأزق، الضغط، الإهتمام القصير للتشريع، وصول أموال الصناعة. وحتى لو كانت المعاهدة حكيمة، فإن آلية إنتاجها مكسورة. من الأفضل أن تكون واضحة العينين من أن تضيع عقداً من الخيال

يُدحض ذلك بالسجل التاريخي مرارًا، وعادةً في ظروف أسوأ مما نواجه الآن. فكرة أن تتنازل القوى المتنافسة عن خياراتها الأشد فتكًا كانت تُوصف بالسذاجة اليائسة، حتى فعلت ذلك، في معاهدة عدم الانتشار، واتفاقيات الأسلحة البيولوجية والكيميائية، وبروتوكول مونتريال، ومعاهدة أنتاركتيكا. الخصوم الذين كانوا يخوضون حروباً بالوكالة ويصفون بعضهم بالشر لا يزالون يبنون مراقبة أسلحة موثقة في ذروة الحرب الباردة. بدا كل منها مستحيلاً من الجانب القريب ولا مفر منه إلا بأثر رجعي.

والأرضية أفضل مما يعترف به التشاؤم. في جميع أنحاء الولايات المتحدة والمملكة المتحدة وEU،, أغلبيات كبيرة يخبرون مستطلعي الرأي بالفعل أنهم يريدون تطوير الذكاء الاصطناعي بحذر ومقيدًا بقواعد قوية؛ الجمهور ليس العائق. العائق هو أن هذا القلق الواسع المنتشر والهادئ لم يُنظم بعد إلى ضغط يمكن للمجلس التشريعي أن يشعر به. العائق هو وظيفة: تحويل الاتفاق الكامن إلى إرادة سياسية. وهذا بالضبط العمل الذي أمامنا.

ما تشترك فيه الخمسة

كل اعتراض يقر بالخطر ثم يجد مكاناً مختلفاً للاستسلام: الحل كبير جداً، أو غير قابل للتحقق، أو مكلف جداً، أو مبكر جداً، أو صعب التمرير. يبدو أي منها، منفرداً، وكأنه حكمة. معاً تشكل آلة لا يخرج منها سوى التقاعس، والتقاعس خيار بترك أهم تقنية في التاريخ تُبنى بلا حدود ملزمة على الإطلاق، على يد حفنة من الشركات المتنافسة، تحت الضغط الدقيق الأكثر احتمالاً لإنتاج النتيجة التي يدعي الجميع الخوف منها، وليس محايداً هنا.

لا يجيب على أي من هذه الإصرار على أن الحوكمة ستكون سهلة. لن تكون كذلك. التحقق سيكون محل نزاع، والمفاوضات ستكون بطيئة، وبعض الحكومات ستتباطأ، وكل معاهدة صعبة المنال في التاريخ واجهت كل ذلك وبُنيت رغم ذلك. الادعاء الصادق هو أن الأمر ممكن، وأن القطع اللازمة لبنائه موجودة بالفعل، وأن أسباب تجاهله تنهار بمجرد فحصها بدلا من تكرارها، لا أن اتفاق الذكاء الفائق / الذكاء الخارق بسيط.

"لا يمكن فعله" كان خطأ في كل جهد مشابه قمنا به على الإطلاق. والمهمة هي بناء الإرادة السياسية لاتفاق ملزم وموثق يمنع بناء الأنظمة الأخطر حتى يمكن جعلها آمنة. و"لذلك استسلم" لم يكن الجواب أبدًا، وليس الجواب الآن.