كان النموذج ميثوس، ويُقال إنه أقوى أنظمة أنثروبيك. كان السيناتور مارك وارنر من فرجينيا، نائب رئيس لجنة الاستخبارات في مجلس الشيوخ. كان الجنرال جوشوا رود، الذي يدير كلاً من وكالة الأمن القومي وقيادة الفضاء الإلكتروني الأمريكية. في رواية وارنر،, أُبلغ عنه أولاً بواسطة الإيكونوميست وتناولتها الصحافة المتخصصة, أخبره رود ما فعله النموذج.

في ساعات، بواسطة نموذج تجاري. التفاصيل محل خلاف والقصة تعقدت في غضون أيام. جوهرها حقيقي، وجوهرها يكفي.

اخترق ميثوس تقريباً جميع أنظمتنا المصنفة، ليس في أسابيع، بل في ساعات.

الجنرال جوشوا رود، رئيس وكالة الأمن القومي وقيادة السيبرانية الأمريكية، كما نقلها السيناتور مارك وارنر وأوردتها الإيكونوميست, يونيو ٢٠٢٦

"يخترق الذكاء الاصطناعي وكالة الأمن القومي" يكتب عنوانه الخاص. كما أنه ليس تماماً ما حدث. الفجوة بين النسخة الفيروسية والنسخة الحقيقية تستحق الدقة بشأنها، لأن الحقيقية هي ما يجب أن يبقيك مستيقظاً.

ما حدث فعليًا

لم تقم أي آلة مارقة بالانقلاب على صانعيها واقتحام أسرار الأمة. حدث الاقتحام داخل جهة مصرح لها تمرين الفريق الأحمر: اختبار أمني محكوم حيث وجهت الوكالة النموذج إلى نسخ من بيئاتها السرية الخاصة وأمرتها بالعثور على طريقة الدخول.

تراكمت التحفظات بسرعة. قال مسؤول حكومي لاحقاً إن وارنر ربما ضغط القصة في إعادة سردها وأن عبارة "ساعات لا أسابيع" تشير تحديداً إلى سياق الفريق الأحمر لا إلى شبكة حية. لم تؤكد وكالة الأمن القومي ولا القيادة السيبرانية روايته بشكل مستقل. خذ كل ذلك في الاعتبار. امنح كل تصحيح. افترض أن القراءة الأكثر طمأنينة تبقى.

ما يتبقى بعد إزالة المبالغة لا يزال هذا: نموذج يمكنك استئجاره، موجه نحو بدائل لأكثر الأنظمة أمنًا التي تعرفها هذه الدولة كيف تبنيها، اكتشف الثغرات وربطها معًا ليحصل على وصول شبه كامل في فترة ما بعد الظهر. فريق أحمر بشري من أفضل العاملين في العالم لا يفعل ذلك في فترة ما بعد الظهر.

أوقفوا المنتج

لم يزدهروا

في اليوم التالي للاختبار، تحركت وزارة التجارة لحظر كل مواطن أجنبي، بمن فيهم موظفو أنثروبيك غير المواطنين، من استخدام نموذجيها الأكثر قدرة، ميثوس وفيبل. لم يقاضِ أنثروبيك التفصيلة التقنية سحبت كلا النموذجين من السوق في جميع أنحاء العالم, ، للجميع، قائلا إنه لا يستطيع عمليا فرض اختبار مواطنة على من يحق له تسجيل الدخول. فقد أوقفت شركة منتجها الرئيسي، الذي يوجد لتبيعه، وأغلقته عن الكوكب بأسره في يوم واحد. ولا تفعل ذلك بسبب قدرة تظن أنها تحت السيطرة الآمنة.

ولم يكن اختبار NSA خدعة لمرة واحدة. من خلال برنامج تقييم سري، أفادت التقارير بأن Mythos كشف عن آلاف الثغرات البرمجية، من بينها خلل ظل غير مكتشف في OpenBSD، وهو نظام تشغيل اختاره محترفو الأمن تحديداً لصعوبة اختراقه، لسبعة وعشرين عاماً. سبعة وعشرون عاماً من أعين الخبراء البشرية فاتتها. قرأ النموذج الشيفرة كما تقرأ فقرة. لا يتعب. لن يكون هناك سوى المزيد منه.

هذه أبطأ سرعة سيتحرك بها على الإطلاق

ينبغي أن يقلق هذا كل من يتابع الأمر. تتسابق المختبرات نحو الذكاء الفائق ولا يزداد الإيقاع إلا تسارعا. قبل عام لم يشاهد أحد خارج مختبر حدودي نموذجا يفعل ما فعله ميثوس للتو. وبعد ستة أشهر ستظهر أنظمة تجعل ميثوس يبدو بطيئا، وبعد ستة أشهر أخرى سيخجلنا المقارنة مجددا.

السبب في تراكمه ليس غامضا. فالنموذج القادر على اكتشاف الثغرات في برمجيات العالم هو نفسه النموذج القادر على المساعدة في تصميم خليفته، وهذا هو الآلية الكاملة وراء التحسين الذاتي التكراري. البحث الذي يسرّع البحث لا يضيف. بل يضاعف. منحنى القدرات لا يهتم بأننا غير مستعدين له، ولن يتوقف عند الرصيف بينما يلحق القانون بالركب. القانون ليس قريباً.

نتيجة محتملة لهذا السباق، إذا لم نوقفه، هي أن نفقد السيطرة على ما نبنيه فيقتلنا. ليس "تعطيل سوق العمل". ليس "إجهاد مؤسساتنا"، رغم أنه سيفعل ذلك أيضا في الطريق. يقتلنا. الجميع. كل من تحب، وكل من يحبونهم، وكل المستقبل البشري الهادئ الذي كان من المفترض أن يأتي بعد ذلك.

In أكبر استطلاع أُجري على الإطلاق لباحثي الذكاء الاصطناعي, ، ومع ما يقارب 2800 شخص يبنون هذه الأنظمة لقمة عيشهم، يضع ما بين 38 و51 بالمئة احتمال أن يتسبب الذكاء الاصطناعي المتقدم في نتائج سيئة مثل انقراض البشر عند واحد من عشرة أو أعلى. ليس واحدا من مليون. واحدا من عشرة، من البناة أنفسهم. لن تسمح لطفلك بركوب طائرة بهذه الاحتمالات. نحن نربط النوع بأكمله.

جيفري هينتون فاز بجائزة تورينغ عن الطرق التي جعلت كل هذا ممكنا ثم غادر مؤسسة ناكادا ليتمكن من قول ما يعتقده دون وجود مراقب شركي في الغرفة. يقدر احتمال أن يقود الذكاء الاصطناعي البشرية إلى الانقراض بنسبة تتراوح بين عشرة وعشرين في المئة. وليس هو الأكثر خوفا في المجال. كثير من الأشخاص الأقرب إلى العمل يضعون الرقم أعلى وتميل التقديرات إلى الارتفاع لا الانخفاض كلما اقترب الخبير من الحدود الأمامية.

في عام 2023، وقع المئات من الباحثين الأحياء الأكثر استشهادًا بهم والرؤساء التنفيذيون للمختبرات التي تتسابق لبناء التكنولوجيا، ومن بينهم أنثروبيك، بيانًا من مركز سلامة الذكاء الاصطناعي: يجب أن يكون التخفيف من خطر الانقراض الناجم عن الذكاء الاصطناعي أولوية عالمية إلى جانب المخاطر المجتمعية الأخرى مثل الأوبئة والحرب النووية. الأشخاص الذين بنوا هذا وضعوا قوتهم للقضاء على البشرية في نفس الوقت الذي يحدث فيه حرب نووية، ثم عادوا إلى مكاتبهم وقاموا ببنائها بشكل أسرع. تأطيرهم. كلماتهم. أسمائهم.

لكن يمكنك فعل شيء حيال ذلك

اليأس الهادئ هو طريقة أخرى لفعل لا شيء و عدم فعل أي شيء هو كيف نفقده عن طريق التقصير

أُخرج الميثوس من الرف لأن حكومة ضغطت، والحكومة ضغطت لأن الضغط وصل إليها. الحكومات تكتب القواعد، والحكومات تستجيب للناس الذين يرفضون الصمت. لذا ارفض.

  • أخبر ممثليك، بكلمات بسيطة،, بأنك تريد حدوداً ملزمة على الذكاء الاصطناعي المتقدم وأنك ستصوت عليه. إذا لم تفعل ذلك من قبل، فإن أداتنا لـ اكتب إلى ممثلك يجعل الرسالة الأولى سهلة.
  • العودة المعاهدة الدولية القابلة للإنفاذ على أخطر النظم، الطريقة التي قرر بها العالم ذات مرة أن الأسلحة النووية والبيولوجية خطيرة جدا لمغادرة أي شخص يتحرك أسرع.
  • ادعم الأشخاص الذين يقومون بذلك بدوام كامل. أضف اسمك أدناه، أعطِ ما تستطيع، وافعل ذلك هذا الأسبوع، وليس بعد العنوان التالي الذي يكون أسوأ من هذا.

لقد أخبركم من يبنون هذا، علناً وبأسمائهم الحقيقية، أنه قد يقتل الجميع. لقد اخترق ذكاء اصطناعي تقريباً كل جدار سري تملكه البلاد في فترة ما بعد الظهر الواحدة، وكان الرد الرسمي سحبه من السوق قبل نهاية الأسبوع. توقف عن انتظار تحذير أوضح مما هو أمامك بالفعل. لن يكون هناك تحذير أوضح.