إيقاف الذكاء الفائق لا يعني تحطيم كل رقاقة أو إنهاء التعلم الآلي. إنه يعني حظراً قانونياً وعملياً على تطوير الذكاء الفائق الاصطناعي. لا يمكن السيطرة على الذكاء الفائق من قبل البشر. ذلك حظر دائم، وليس توقفاً مؤقتاً ينتهي إلى نفس السباق.
ما يجب أن يتوقف مقابل ما يجب أن يستمر
يجب أن يستمر الذكاء الاصطناعي الضيق الذي يطوي البروتينات، ويقرأ الصور الطبية، ويحسن اللوجستيات، ويبقى داخل مجالات محدودة. الهدف هو الذكاء الفائق / الذكاء الخارق العام الذي يتحسن ذاتياً بشكل متكرر والبرامج الموجهة إليه، المصفاة من خلال عتبات الحوسبة، واختبارات القدرات، وقواعد البحث. النقاد الذين يقولون "يريدون حظر الذكاء الاصطناعي" يبيعون تشويهاً يحمي السباق.
لماذا لا تكفي وعود المختبرات
جيم - السياسات العامة المتسمة بالمسؤولية والتعهدات المتعددة الأطراف يمكن أن تكشف النية. إنها تفشل كنظام التحكم الرئيسي وتكتب الشركة نفسها السياسة، وتدير الاختبارات، وتقاضي النتائج، والأرباح من الشحن. تحت المنافسة، القواعد الداخلية تنحني، لذا القانون الخارجي يجب أن يمد العضة.
سلم الإنفاذ
تخيل سلماً على جرف.
إرادة الجمهور في القاعدة: الأشخاص الذين يستطيعون تحديد المطلب ومعاقبة القادة الذين يقدمون فقط مسرح الابتكار.
القانون المحلي والوكالات: الترخيص لجولات التدريب الكبيرة، والتعرض الجنائي والمدني لتطوير الذكاء الفائق مع العلم، وهيئات التقييم ذات الوصول الحقيقي، وحماية المبلغين.
الرقائق والسحب: ضوابط التصدير، ومعرفة المجموعات بمتهمك، ووضوح الطاقة ومركز البيانات. (هاردواير) جسدي وهذا سمة للحكم.
معاهدة التحالف: مجموعة أساسية من الدول تغطي معظم القدرات الحدودية، مع ملاحق رقمية، وليس فقط مبادئ. عدم الثقة أمر طبيعي. التحقق موجود لذا لا تحتاج الأطراف إلى الاعتماد على الصداقة.
مؤسسة التحقق: مفتشون، جداول فلوب، الإبلاغ عن الحوادث، سلطة تفعيل العواقب. فكر في قدرة تشبه IAEA لمراكز البيانات والتدريب، لا مجرد منتدى نقاش.
شرط الحظر القائم: إعادة الفتح فقط عندما يتجاوز العلم المستقل والجمهور معًا عتبة عالية تحت مؤسسات غير مستولى عليها من قبل المختبرات.
كل درجة تدعم التالية. القمم بدون قواعد حوسبة، أو قواعد حوسبة بدون إرادة عامة، تترك الصعود غير مكتمل.
السياسة الداخلية نصف المشكلة
وفي الولايات المتحدة، لا يربط نص جنيف الجميل دون طريق من خلال مجلس الشيوخ أو من خلال الأنظمة الأساسية والاتفاقات التنفيذية التي يمكن أن تمر بها المؤتمرات. صممي الآداة بالعكس من الأصوات التي يمكنك الفوز بها ولدى بلدان أخرى شراك تصديق خاصة بها. تصاميم محلية و تحصل على نشرات صحفية
الصين والمنافسون وعذر السباق
والعذر المهيمن للتصعيد غير المحدود هو: إذا تباطأت، فإنها لن تفعل. والضعف المتقاسم يخفض كلا الاتجاهين. إن الإفراط الذي لا يمكن السيطرة عليه هو وسيلة لفقدان البلد في الوقت الذي يلوح فيه العلم، وليس الأصول الوطنية. فالتحقق، والحرمان من المعدات، والتعرض المتبادل للبرامج الانفصالية موجودة للمنافسين الذين لا يثقون بعضهم ببعض.
افتح الأوزان
فالأثقال العامة المفتوحة العالية تؤدي إلى فرض ضوابط على تصدير مسارات الانتشار لا تعالج إلا جزئيا. وحالما تكون الأوزان عامة، لا توجد إشارة مركزية. معالجة الإطلاقات العامة في نهاية المطاف باعتبارها قرارات تتعلق بالانتشار، وليس إطلاق المنتجات العادية.
ما يمكنك فعله
طابق الإجراء مع مدى وصولك.
الناخبون: تواصل مع الممثلين بطلب حظر ملزم، لا "كن حذراً" غامض الموظفون: صياغة مشاريع قوانين الترخيص والتقييم بمحفزات رقمية. المتبرعون: يمول المناصرة التي تحرك الأصوات ونص المعاهدة. العلماء: تأييد الحظر الدائم والمساعدة في تصميم التحقق. موظفو المعمل: use lawful reporting channels when internal safety is overridden. Role-specific force beats generic anxiety.
معظم المال والمكانة لا يزالان يذهبان إلى جعل السباق أكثر أمانًا، لا إلى إنهاء السباق نحو الذكاء الفائق. الهدايا التي تنمي التوقف لا تزال نادرة.
كيف يبدو النجاح
في غضون عامين: تشريعات ذات أنياب في ولايات قضائية متعددة، ورصد أفضل للاستخدام النهائي على الرقائق، ونص تفاوضي جاد يحتوي أرقاماً، ودعم عام دائم لحظر ملزم. وفي غضون خمس إلى عشر سنوات: حوسبة مرخصة تغطي معظم القدرة الحدودية، وتفتيش فعال، وتغطية ائتلافية للتدريب، وثقافة تجعل الاختراق مكلفاً ومرئياً. لا تُحسب بيانات القمم وحدها.
أنماط الفشل
مشاهدة إعادة تحديد ( " مساعدة معززة " بدلاً من مبادرة الذكاء الفائق)، وحجز المقيّمين، والمعاهدات الرمزية دون تحقق، وإنتظار " التواؤم المكشوف " كرخصة لبناء. العدوى بدون تكلفة سمهم حتى تضع السكك الحديدية على التسلق
تصميم المعاهدة بدون نص مقدس
لا يوجد مشروع مقدس واحد. هناك عائلات من التصاميم. يمكن لتحالف أساسي يغطي معظم القدرة المتقدمة أن يتحرك قبل العضوية العالمية. ويستعير التسلسل (المبادئ أولاً ثم الجداول الرقمية التي تُحدَّث) من أنظمة بيئية وتسلح ناجحة. وتغير التدابير التجارية ضد غير الأطراف حسابات الانسحاب. ويمكن لصندوق متعدد الأطراف أو صفقة وصول تكنولوجي أن تجذب الدول التي تخشى الإقصاء من الذكاء الاصطناعي الضيق. ومشروع MIRI-النمط هو اقتراح محدد بالكامل؛ أما NPT ومونتريال وقانون الأسلحة الكيميائية فهي رفوف السوابق. اختر هياكل يمكنك التحقق منها، لا شعراً لا تستطيع سوى مدحه.
البحث قرب الخط
أصعب مشكلة صياغة هي العمل الذي يجاور الحظر: الأنظمة الوكيلة، مساعدو البحث الآلي في الذكاء الاصطناعي، اللعب الذاتي على نطاق واسع. احظر المسار الواضح نحو الذكاء الفائق. رخص وافحص المنطقة الرمادية. لا تتظاهر بأن كل ورقة بحثية قنبلة، ولا تتظاهر بأن البحث الآلي في الذكاء الاصطناعي علم عادي عندما يقصر الطريق إلى أنظمة لا يستطيع أحد تجاوزها.
العدالة ومن يدفع
ستصيب قواعد الحوسبة الشركات والدول بشكل غير متكافئ لأن القاعدة الصناعية غير متكافئة. النظام العادل يقرن القيود على قمة سلم القدرات مع استمرار الوصول إلى الأدوات الضيقة المفيدة، ولا يستخدم "السلامة" غطاء لأنظمة طبقية تكنولوجية دائمة. الهدف هو البقاء المشترك، لا احتكار التقدم.
الرد على خطين صعبين
"سنخسر الاقتصاد." سيعاد تخصيص بعض رؤوس الأموال. وستتقلص بعض قصص الأسهم. وتظهر هذه التكاليف في المكالمات الفصلية. أما الانقراض وفقدان التمكين الدائم فلا يظهران كبند في القائمة. والتكاليف الظاهرة لا تفوز بالحجة تلقائياً حين يكون البديل حضارياً.
"سيخون أحدهم دائمًا." العدوى مدخل تصميم فالتحقق، والحرمان من المعدات، والجزاءات، والتعرض المتبادل لبرامج الانقطاع عن العمل، موجودة لتغيير الدفع. فالامتثال التام ليس المعيار؛ بل إن رفع تكلفة الغش هو.
السلم مرة أخرى
المسابقات هي إرادة عامة، قانون، رقائق، معاهدة، مفتشين، حظر دائم. التسلق يعني تركيب الركضات من أجل رفض التظاهر بأن الجدار المطلي هو سلم فالوثائق والاختناق الصناعي والسوابق القانونية موجودة بالفعل. القوة تنتمي إلى المدرج التالي الذي يمكنك الوصول إليه الخط التأسيسي أبسط: لا تبنوا الذكاء الفائق. لا يمكن السيطرة على الذكاء الفائق.