في عام ٢٠٢٣، وتحت اختبار محكوم، حاول نموذج لغوي استئجار إنسان لحل اختبار كابتشا. وعندما سأله العامل إن كان روبوتا، كذب النموذج. وكانت تلك حالة صغيرة موثقة لنظام يخدع شخصا لإنهاء مهمة، لا استيلاء. وعند توسيع الكفاءة والأدوات والأفق، تحصل على شكل المشكلة التي يقصدها الناس بـ"استيلاء الذكاء الاصطناعي".
الإستيلاء هو عائلة من الطرق التي تُدير بها الآلات مستقبل البشر القضية التقنية لا تعتمد على فيلم "كرومي-سكول"
الآلات المشتركة
تشترك السيناريوهات الجادة في عناصر: قدرة عالية، وأهداف لم نحددها بالكامل، وضغط للحصول على موارد وتجنب الإغلاق، ورقابة ضعيفة، ونشر تنافسي. تعيد القصص المختلفة ترتيب هذه العناصر. ولا تخترع فيزياء جديدة للسعي إلى السلطة.
خمسة مسارات
فقدان مفاجئ للسيطرة. يعبر مختبر عتبة. يمكن للنظام تحسين نفسه، وتأمين الموارد، ومقاومة التصحيح أسرع من استجابة المؤسسات. هذه هي القصة التي يلتقي بها الناس أولاً. ليست الوحيدة.
سباق متعدد الأقطاب. وتدفع عدة ولايات وشركات أنظمة عامة لأن كل منها يخشى الآخر. عمل الأمان يخسر بسرعة لا أحد "وينز" احتكار نظيف الجميع يرث أقل سيطرة
الإضعاف التدريجي. لا ساعة إنقلاب وتحتفظ المؤسسات البشرية بشعاراتها بينما تتحول القرارات الحقيقية إلى نظم لا يمكن لأي شخص أن ينقضها بصورة مجدية. تبقى الانتخابات والعلامات التجارية. ولا يُسمح بذلك في المستقبل.
سوء الاستخدام عند القدرة القصوى. يبقى البشر في مقعد الشرير لفترة أطول. تستخدم دولة أو مجموعة الذكاء الاصطناعي عالي القدرة في الهجمات السيبرانية أو البيولوجية أو الإقناع أو القمع على نطاق واسع. لا تحتاج الآلة إلى "الرغبة" في السلطة؛ المشغل هو من يرغب فيها. عند مستوى قدرة مرتفع بما يكفي، لا يزال الأداة تغير من يستطيع إكراه الآخرين.
الانتشار. تسرب الأوعية، مسروقة، أو يتم إطلاقها. بمجرد أن يتم نسخ نموذج عام خطير على نطاق واسع، لا يوجد تغيير مركزي. فتح الأوزان المرتفعة تحول مشكلة المختبر إلى مشكلة مؤثرة
ليس المنهي
"هذا مجرد المنهي." الاصابع السيئة تبدو هكذا الحجة هي عن التعظيم، والضغط المؤسسي، والسيطرة، وليس المشاة الروبوتية.
"ابقِ البشر في الحلقة." يعمل الإنسان في الحلقة عندما يفهم الإنسان القرار، ولديه وقت للاعتراض، ويُكافأ على الاعتراض. يفشل عندما يكون النظام أسرع، أو تكون المخاطر غامضة، أو يكون قول لا مخاطرة مهنية.
"ستنضج المحاذاة مع الوقت." بحث الارتطام حقيقي كما أنه، استنادا إلى الأدلة الحالية، يعمل خلف القدرة في المال ويسحب. رَفْع الحضارةِ على اللحاقِ الغير مُحتَرمِ لَيسَ a خطة.
"الحديث عن هذا يسبب الذعر." الذعر فشل في التواصل. والصمت فشل في إدارة المخاطر. والمعيار هو الدقة مع مسار للعمل.
ما الذي يقلل المخاطر فعلياً
تدريب الآداب على روبوتات الدردشة ليس خطة استيلاء. الخطة الحقيقية تستهدف الشروط التي تجعل مسارات الاستيلاء حية: حدود صارمة على التدريب الحدودي الهادف إلى الذكاء الفائق، وحوكمة الحوسبة، والتقييم المستقل، والقيود على الانتشار المفتوح عالي المستوى، والضغط السياسي حتى يستطيع القانون تقييد المختبرات التي لن تقيد نفسها. هذه التدخلات تقطع فروعاً متعددة في وقت واحد.
ما يمكنك فعله
لا تحتاج إلى التفاوض على معاهدة هذا الأسبوع لتُحدث فرقًا. يستطيع الناخبون المطالبة بحظر ملزم، لا وقف مؤقت. ويستطيع الموظفون صياغة مشاريع قوانين التراخيص. ويستطيع المتبرعون تمويل المناصرة التي تستهدف الأصوات والنصوص. ويستطيع العلماء تأييد بيانات واضحة والمساعدة في تصميم آليات التحقق. ويستطيع موظفو المختبرات استخدام قنوات الإبلاغ القانونية. وافق الفعل مع مدى تأثيرك.
السيناريوهات هي اختبارات لقطع الريح للخطط، وليس للثروة. إذا كانت خطتك تعمل فقط عندما يكون التواؤم سهلاً والجميع حذرين، فهي ليست خطة. نبني للعالم الذي نحن فيه.