في الثلاثين من يونيو، وفي قمة تقنية بواشنطن، رسم مدير وكالة الاستخبارات المركزية جون راتكليف خطا علنيا قلما يجرؤ أحد في منصبه على رسمه. قال عن نماذج الذكاء الاصطناعي الحدودية اليوم إنه «ليس من الخطأ وصف قدراتها بأنها تشبه الأسلحة النووية الرقمية». وليس ناشطا في السلامة ولا أكاديميا يبيع أطروحة. إنه يدير وكالة استخبارات. ولجأ إلى أثقل الكلمات التي يسمح لشخص في كرسيه بقولها علنا.

هو ليس الوحيد. في مارس، شهدت مديرة الاستخبارات الوطنية آنذاك تولسي غابارد بأن البشر يجب أن يظلوا مسيطرين على هذه الأنظمة. وذكر أن مدير وكالة الأمن القومي أخبر أعضاء مجلس الشيوخ أن نموذج ميثوس الخاص بـأنثروبيك اخترق تقريبًا جميع أنظمة الوكالة المصنفة في ساعات أثناء اختبار مصرح به. وفي الأسابيع الأخيرة أصدر رؤساء الأمن السيبراني في تحالف العيون الخمس بيانًا مشتركًا نادرًا يحذرون فيه من أنه "يجب أن نتصرف الآن". وعندما يبدأ من يقرأون الحركة السرية بالحديث بهذه الطريقة علنًا، يستحق الأمر التوقف والإصغاء.

حيث يصح الاستعارة

السلاح النووي هو المقياس الذي يستخدمه العالم لـ«مدى خطورة تقنية ما». وصف الذكاء الاصطناعي بنسخة رقمية منه طريقة للقول إن هذه الأدوات قادرة الآن على إلحاق ضرر بمقياس كان يتطلب سابقاً دولة ورأساً حربياً: اختراق سيبراني مدمر، أو مساعدة حقيقية في تصميم مسبب مرض. في هذا، راتكليف محق، وتصريح مدير مخابرات جالس بهذا في خطاب علني هو الخبر بحد ذاته.

أين ينكسر

تُهرب المقارنة راحة، لأن السلاح النووي يملك خاصية رحيمة واحدة: إنه لا يقرر أبدا. رأس حربي يجلس في صومعته وينتظر. ليس لديه أهداف. إنه لا يفعل شيئا على الإطلاق حتى يدير إنسان مفتاحين. كل ضماناتنا التي بنيناها حول القنبلة، من سلسلة القيادة إلى معاهدات الحد من التسلح، تعمل لأن السلاح يبقى أداة في أيدي البشر.

تتصرف أنظمة اليوم بالفعل كوكلاء تسعى إلى أهداف، والشيء الذي تمثل خطوة نحوه، أي الذكاء الفائق الاصطناعي، سيكون وكيلاً أقدر من البشر الذين بنوه. الذكاء الفائق أقرب إلى القائد الذي يقرر مكان سقوط القنبلة، إلا أن لا إنسان عينه ولا إنسان يستطيع إعفاؤه من القيادة.

لا تختار الأسلحة النووية أهدافها بنفسها أبدًا.

جبهة الطيران المدني مثل سلاح نووي رقمي في متناولها. النظام الذي يقوده سيكون سلاحاً يستهدف نفسه نحن نصنف هذا الخطر ضد كبار السن, ، ويخرج الذكاء الفائق في الصدارة لهذا السبب بالضبط.

المهمة الثانية لعصر الطاقة النووية

تكمن قوة عبارة "السلاح النووي الرقمي" في أنها تأتي من داخل عالم الأمن القومي، لا من منتقديه المعتادين. والخطر هو أن نسمعها فنتصور قنبلة، ونطمئن اطمئنانا زائفا إلى كل ما تسمح به القنبلة: يمكن حراستها، وعدها، وفي أسوأ الحالات تركها غير مستخدمة في صومعتها. أما الذكاء الفائق / الذكاء الخارق فلا يوفر أيا من هذه الخيارات.

والعمر النووي له درس ثان وهو الذي يهم الآن. بعد أن بنينا السلاح، قضينا عقوداً لبناء المعاهدات للتأكد من أنها لم تستخدم مرة أخرى. وهذا الهيكل المريض للوقاية والتحقق وتحديد الأسلحة هو الميراث الحقيقي للحرب الباردة. نسختنا منه بالكاد بدأت، والفرق هذه المرة هو أننا لا نحصل على البناء بعد الحقيقة. سلاح يمكن أن يصوب نفسه يجب أن يكون مُنع قبل وجوده, ليس رادعاً عندما يفعل