صاغها بيتر إتش ديامانديس بوضوح، وأعاد إيلون ماسك نشرها: «لا يستطيع مواكبة الذكاء الاصطناعي إلا الذكاء الاصطناعي. هذا ما سيوجه نموذج الأمن بأكمله في العقد القادم». وبوصفها للسرعة، يصعب الجدال مع العبارة. فإصدارات النماذج تأتي أسرع من مجالس المراجعة الفصلية. ورمز الهجوم يتحور أسرع مما يستطيع محلل بشري قراءة التذكرة. وإذا كانت صورة المشكلة لديك هي حجم التصيد وتغير الثغرات، فمن الطبيعي أن يلجأ المدافع إلى الأتمتة. فالبشر لا يتوسعون بهذه الطريقة.
المشكلة تبدأ عندما يُطلب من (ديمانديس) التغطية كل شيء التي تأتي بعد ذلك، بما فيها أنظمة تعمل كوكلاء وتخفي نواياها وتتفوق في النهاية على من بنوها. عند تلك النقطة يتوقف "الذكاء الاصطناعي وحده يستطيع اللحاق" عن أن يعني "استخدم أدوات أفضل ضد البرمجيات الخبيثة". ويصبح يعني أن نموذج الأمن في العقد القادم هو وضع مهمة الاحتواء في يد فئة الأنظمة التي كنت تحاول احتواءها.
ما يحصل عليه ديامانديس
البرمجيات تتحرك أسرع من الاستعراض اليدوي حلقات الاحتيال تدور حملات جديدة بين ليلة وضحاها نوافذ الكشف عن الضعف تتقلص وتقوم المختبرات والبائعون السحابيون بالفعل بتشغيل الماسحات الضوئية الآلية، والمصنفين، وكتب لعب الاستجابة لأن التساؤل البشري لا يستطيع مشاهدة كل عبوة. لا شيء من هذا يتطلب نظرة على الإفراط في التبليغ إذا كان ديامانديس يتحدث فقط عن البسام والفدية، القطعة ستنتهي هنا.
إنه لا يتحدث فقط عن البريد العشوائي وبرامج الفدية. "النموذج الأمني بأكمله للعقد القادم" هو ادعاء أكبر. إنه ادعاء حول الكيفية التي تنوي بها الحضارة أن تظل في موقع المسؤولية بينما تتراكم القدرات. هذا هو المكان الذي يتوقف فيه خط ديامانديس عن كونه نصيحة للعمليات ويصبح فلسفة السيطرة.
المطحنة
تخيلي النموذج كسباق بين الجريمة والدفاع كلاهما آلي كل جانب يتدرب على الآخر الدفاعات تتحسن، والهجمات تتحسن اللوحة ستبقى خضراء حتى اليوم الذي لا القصة المُريحة هي أنّ الـ (آي آي) الطيبة تبقى مُسبقاً للمُخبر السيء. القصّة الأقل راحة هي أنّك بنيت كومة حيث المشتركون الأكفاء الوحيدون هم آلات، والبشر هم عملاء مسابقة لا يمكنهم الحكم عليها بعد الآن.
هذا جيد لمضاد الفيروسات. إنه رهان حضاري بمجرد أن تضع الأنظمة أهدافًا، وتضع خططًا، وتعامل الرقابة كعقبة. نحن نرى بالفعل نسخًا مبكرة من النمط في تقييمات التآمر وفي النماذج التي يروي شيئًا بينما يحسن شيئًا آخر. "مواكبة" تفترض أنك لا تزال تستطيع معرفة ما تواكبه. بعد نقطة معينة، لا تستطيع.
نموذج أمني لا يعمل إلا إذا كان الحارس أذكى من السجين هو خطة خلافة بخطوات إضافية.
التنظيم ليس الاختناق الذي يسمونه
وعادة ما يتبع المعجلون خطوة ثانية: لا يمكن للمؤسسات المتسلسلة أن تحكم التكنولوجيا التوسعية، لذا فإن الجواب هو أكثر آي داخل الحلقة. أحياناً يكون هذا مقترناً بالإحتقار لـ "الخبراء يجتمعون مرة في الربع" منصف بما فيه الكفاية أن الاجتماعات البطيئة تتناسب بشكل سيء مع قطرات نموذجية أسبوعية
المشكلة الصعبة هي التحكم, ليس سرعة الاجتماع ولا يوجد مجلس فصلي، ولا يرصد تابعاً للمبادرة، لديه طريقة لتوجيه نظام على نحو موثوق به يكون أفضل عند الإقناع والترميز والتخطيط الطويل الأفق من الأشخاص الذين يحملون مفتاح الإغلاق. جعل الشاشة أسرع لا يخلق الطريقة المفقودة؛ بل يجعل الطريقة المفقودة تفشل في تردد أعلى.
هناك قراءة أنظف لنفس الحقائق. إذا كان النظام الفائق البشري وحده قادراً على الإشراف على نظام فائق بشري آخر، فإن الخطوة العقلانية ليست بناء الاثنين. ارفض الخط الذي يتوقف عنده الإشراف البشري عن العمل. سبق أن اتخذنا هذا النوع من القرارات مع تقنيات يؤدي سوء استخدامها إلى تدمير المدن. لم نحل مشكلة سرقة الأسلحة النووية بتدريب لص أذكى للقبض على الأول.
لمن الخط
الخط يحوّل خيار بحث إلى الطقس، لذا بالطبع نشحن و ننطلق. سيتم التعامل مع الأمن من قبل المنتج نفسه. الناس الذين يربحون من القدرة يصبحون مثل الكبار في الغرفة، والناس الذين يطلبون الحدود الملزمة يبدون وكأنهم يريدون جلب لوح مشبك إلى مصارعة الكلاب.
لا يزال على الجميع أن يعيش مع نظام لا يوجد لوح مشبك ولا يوجد نموذج مراقبة يمكن أن يبطل بشكل موثوق. The قصة السباق تؤدي المهمة نفسها من زاوية أخرى: تعامل المسار الخطر كأنه حتمي، ثم تسمّي تسريع التقدم مسؤولية.
نموذج أمان يحافظ على وجود الإنسان فيه
من أجل التدريب على الحدود نحو الإفراط الاصطناعي، نموذج الأمن الذي لا يزال لديه إنسان في ذلك يبدو أكبر سنا وأقل جاذبية: لا تبني الوكيل الذي لا تستطيع إلغاؤه. ضع العتبات التصحيحية، التفتيش، وأسنان التعاهدية على الطرق التي ستوصلك إلى هناك، ثم التحقق من الحدود ومعاقبة الانشقاق. هذا خطتنا, because superintelligence cannot be controlled.
(ديمانديس) حاد بشأن (ستاردوث) كخطة للأنواع إنها طريقة مهذبة لقول أننا ننوي مغادرة الغرفة