كل عام ينفق العالم ثروة لجعل أنظمة الذكاء الاصطناعي أكثر قدرة، وخطأ تقريبي لجعل الحالة النهائية قابلة للبقاء. داخل ذلك الخطأ التقريبي يكمن خطأ آخر: لا يزال معظم مال السلامة يفترض أن الذكاء الفائق / الذكاء الخارق سيُبنى، ويحاول جعل تلك النتيجة «تسير على ما يرام».
لا يزال معظم المال والمكانة يذهبان إلى جعل السباق أكثر أمانًا، لا إلى إنهاء السباق نحو الذكاء الفائق.
هذا الافتراض هو المشكلة إذا كان الإفراط الاصطناعي هو التكنولوجيا التي لا يمكننا السيطرة عليها، الاستخدام الرشيد لرؤوس الأموال الشحيحة للسلامة هو منعها من الإنشاء، وليس لتمويل نسخة أصدأ من نفس العرق.
ما يفعله المال اليوم
سلامة الذكاء الاصطناعي، بمعناها الواسع، تعتمد تقريبًا على 190 مليون دولار سنوياً. يعتمد عمل القدرات على عشرات المليارات. وداخل شريحة السلامة، يذهب نصيب كبير إلى التوافق التقني: حيل إشراف أفضل، واختبارات حمراء أقوى، وطرق أفضل لتدريب النماذج على قول الشيء الصحيح تحت ظروف الاختبار. بعض هذا العمل مفيد لأنظمة اليوم. ولا يشكل أي منه تقريبا حلا مثبتا لنظام أذكى من مختبريه.
يعرف المجال هذا. ليست الأوراق البحثية حول التوافق الخادع وسوء تحديد الهدف والتلاعب بالتقييم سرية. تنشر المختبرات نتائج تتآمر فيها النماذج تحت الضغط. والرد، في كثير من الأحيان، هو طلب المزيد من ميزانية التوافق حتى يصبح التشغيل التدريبي التالي أكثر أمانًا. تستمر عمليات التشغيل التدريبي وفق الجدول نفسه.
التوافق بعد الحقيقة هو رهان نستمر في فقدان الحق في صنعه
إذا مر العالم بمعاهدة تجمّد السباق إلى الإفراط، سنريد كل أداة جدية يمكننا الحصول عليها من أجل النظم الموجودة بالفعل.
مواءمة التمويل كخطة أولية في حين أن حجم المختبرات نحو الإفراط في التبليغ يعامل الوجهة كما هي ثابتة. يمكننا اختيار وجهتنا فالترسانات النووية، وكيمياء الأوزون، والاستنساخ البشري لكل منها لحظات عندما قرر العالم أن بعض الدول النهائية لا تستحق المخاطر المتبقية. التجسس يعود إلى تلك القائمة بشكل دائم التجسس لا يمكن السيطرة عليه
حيث يجب أن تذهب الأموال بدلاً من ذلك
إعادة توجيه كومة التوافق لـالذكاء الفائق نحو عمل يجعل عدم الإنشاء قابلاً للتنفيذ:
- تصميم المعاهدات والتحقق منها وحوكمة الحوسبة على مستوى الرقائق التي يمكن تفتيشها عبر الحدود.
- صنع الحجة العامة التي تبقي الهدف واضحاً: وقف الذكاء الفائق، وليس "إبطاء الذكاء الاصطناعي" كمزاج غامض.
- دعم المبلغين عن المخالفات، والشفافية في الحوادث، والتقييم المستقل الذي يرفع تكلفة القفزات الهادئة في القدرات.
- التنظيم السياسي حتى يسمع المشرعون من الناخبين، لا فقط من لوبيات المختبرات.
هذه القائمة أقل جمالاً من تقنية تدريب جديدة وهي أيضا القائمة الوحيدة التي تتطابق مع نمط الفشل. التجسس الذي هو أفضل قليلاً في صومعة الصوت ما زال مصدر ريب وإذا رفض العالم بناء واحد، فإن بحوث المواءمة يمكن أن تستمر دون موعد نهائي ينتهي بالإنقراض.
الاعتراض من داخل المختبر
"إن لم نحل مشكلة المحاذاة، فسيبنيه شخص آخر بطريقة غير آمنة." اسمع هذا جيداً: غالباً ما يعتقد الباحثون الذين يبقون على الحدود أن وجودهم هو السلامة. أحياناً يكونون محقين بشأن إصدارات النماذج الحالية. لكن الحجة تفشل عند الحد الأقصى. السباق الذي يحتاج فيه كل فريق إلى قفزة قدراتية إضافية لتمويل عمل السلامة للقفزة التالية لا يزال سباقاً، حتى لو ارتدى شارة.
السؤال هو معاهدة دولية ملزمة, نفس النوع من الأدوات المستخدمة عندما يتم تقاسم الخطر والحافز على الغش حقيقي ضبط النفس من جانب مختبر واحد يترك السباق سليما. ويمكن لتمويل التكيف أن يدعم هذه السياسة. لا يجب أن يكون بديلاً عنه
بعد معاهدة، تابع إن أردت
وبعد حظر ملزم يمكن التحقق منه على الإفراط في التبليغ، يمكن أن تستمر البحوث المتعلقة بالنظم القائمة بالفعل بموجب قواعد لا تعتبر الإنقراض البشري تكلفة تجريبية مقبولة. لا يمكن السيطرة على التجسس من قبل البشر وقبل بدء نفاذ هذا الحظر، فإن كل دولار يجعل السباق قابلاً للإدارة هو دولار لا ينفق على إنهاء السباق.
نقل المال إلى الوقاية والقانون والتحقق