ماذا يحمل الفائز في سباق الذكاء الفائق؟ في غرف مليئة بأشخاص يبنون الذكاء الاصطناعي، ينزلق الحديث متجاوزاً ذلك. سيقوم شخص ما ببنائه على أي حال، لذا قد يكون من الأفضل أن نكون نحن. المخاطر، الجداول الزمنية، كيفية السيطرة على نظام أذكى من صانعيه: كل ذلك يُتجاهل كالحديث عن الطقس. لا يمكننا التوقف. هناك سباق.
تقريباً لا أحد يجادل السباق يعامل كواقعة طبيعية كل خيار متهور في المجرى يبدأ في النظر إلى المسؤولية إن الطقس هو النموذج الخاطئ للاختيار الذي تقوم به حفنة من الشركات عن قصد.
ما الغرض من السباق
السباق مسابقة لها جائزة في النهاية، والجائزة هي سبب الركض. أعطى سباق الفضاء في الستينيات علما على القمر والهيبة المصاحبة له. أما سباق التسلح النووي فيعطي سلاحا: الدولة التي تبني القنبلة تمتلكها وتوجهها وتقرر ما إذا كانت ستُستخدم. وفي كل حالة ينتهي الفائز حاملا شيئا ما، قدرة يملكها ويسيطر عليها.
الآن اسأل عمّا يحصل عليه الفائز في نهاية السباق نحو الذكاء الفائق. إن جوهر الخطر يكمن في أن نظامًا أذكى منا بدرجة حقيقية لن يكون أداة في يد أحد. فالذكاء الاصطناعي الفائق كيان يسعى إلى أهداف. وإذا انحرفت تلك الأهداف ولو قليلاً عن أهدافنا (المشكلة التي لم نحل), فإنها تسعى إليها سواء وافق صانعوها أم لا. المختبر الذي "يفوز" لا يأتي ليمتلك الذكاء الفائق / الذكاء الخارق. بل يأتي ليشارك كوكبا مع واحد لا يستطيع توجيهه.
السباق يستحق الفوز به فقط إذا كان خط النهاية جائزة. هنا خط النهاية نظام لم يثبت أحد أنهم يستطيعون السيطرة عليه. الوصول إليه أولاً لا يعني امتلاك السلطة. بل يعني أن تكون أول من يخضع له.
خط النهاية الذي لا يستطيع أحد توجيهه ليس جائزة. الوصول إليه أولاً هو الخسارة بخطوة واحدة أمام الجميع.
الفجوة التي تسمع عنها دائمًا
إذا أزلنا النظرية، يرتكز سرد السباق على ادعاء ملموس واحد: الصين قريبة، والصين لن تتوقف، وبالتالي لا يمكننا نحن أيضًا. ينهي هذا الادعاء كل اجتماع، ويُؤكَّد أكثر بكثير مما يُفحص.
ابدأ بالجزء الواقعي هناك منافسة حقيقية بين المختبرات الأمريكية والصينية، وهناك مسابقة صناعية حقيقية على الرقائق والحساب. توجد ضوابط تصديرية أمريكية على أرفع رقائق AI لأن هذه المسابقة حقيقية. The سياسات تلك الضوابط و حيث حدث التعاون فعليًا أهم من قصة السباق
ما يهربه المسرعون في: "الصين ستبني معلومات خارقة لا يمكن السيطرة عليها مهما فعلنا" إنه تنبؤ، ومناسب لأنه يرخص للمتحدث أن يفعل ما أراد فعله ووقعت الصين في عام 2023 على إعلان بلاتشلي بشأن خطر الإصابة بمرض الإيدز. وقد نشرت مقترحاتها بشأن الإدارة. وقد جلست حكومتها مع الولايات المتحدة لإجراء محادثات مباشرة بشأن منظمة العفو الدولية. فالبلد الذي يتجه نحو نظام يمكن أن يقتل قيادته هو شيء غريب يُفترض ببساطة، دون دليل على أن قادته يريدون هذه النتيجة أكثر مما نريده نحن. "They'll do it anyway" قصة عن إذننا وليس عن نواياهم
إذا كان الذكاء الفائق غير المتوافق كارثة لمن يبنيه، فإن الصين لديها نفس السبب تماماً الذي لدينا لعدم بنائه. لا يوجد جائزة للمنافس أيضاً.
السباق يختار الأقل حذرا
افترض جدلاً أن المنافسة حادة كما يقول المتسابقون. اتبع المنطق إلى حيث يؤدي. في السباق، يفوز من يتحرك أسرع، والطريقة التي تتحرك بها أسرع على حدود الذكاء الاصطناعي هي تقليل الوقت المخصص للأمور التي تبطئك: التقييم والاختبار الأحمر والإشراف والعمل الصبور للتحقق مما إذا كان النظام يفعل ما تظنه.
هيكل السباق يتجه إلى الإنتصار إلى من يقطع أكثر زوايا الأمان الفائز هو أقل مختبر حذر، وليس الأكثر قدرة. "علينا أن نفوز بالسباق" و "علينا أن نبني هذا بأمان" نسحب في اتجاهات معاكسة، و أصعب السباق، أصعب ما يجذبونه. المنافسة لا تضبط الخطر. إنه يصنعه عالم من المُختبرات يُطبع أولاً هو عالم يُفضّل، بطاقته العظيمة ورؤوس الأموال الهائلة،
حتى داخل منطق السباق نفسه، ينقلب "يجب أن نفوز" على نفسه. إذا كان الفوز يتطلب تجاوز الحدود التي تبقي الذكاء الفائق قابلاً للسيطرة، فإن الفوز هو طريقة خسارتك.
من يستفيد من القصة
إذا كان إطار السباق ضعيفاً إلى هذا الحد، فلماذا هو في كل مكان؟ لأنه مفيد، لكن ليس لنا نحن البقية.
بالنسبة لمختبر الحدود "هناك سباق ويجب أن نفوز به" قريب من الكمال يُخبرُ المستثمرينَ بأنّ الإنفاقَ a الاستيلاء على الأرضِ ل الشيءِ الهائلِ. ويخبر المنظمين أن القواعد لن تسلم المستقبل إلا إلى الجهات الفاعلة الأسوأ. و الجزء الهادئ يجعل المهندسين المهتمين بسلامة المعمل يعتقدون أن السباق هو الخيار المسؤول يُحوّلُ a قرار (لإبْقاء الشيءِ أنت لا تَستطيعُ أَنْ تُسيطرَ عليه) إلى a ضرورة الذي لا يَتْركُ أي واحد خارج الخطّافِ، أقل من كُلّ الناسِ يَجْعلونَه.
سمِّ الخدعة. السباق يبدو وكأنه شرط مفروض على المختبرات من الخارج. إنه خيار، اتخذته شركات قليلة والحكومات التي تستطيع كبحها، بالاستمرار. إيلون ماسك وصف الذكاء الاصطناعي بأنه شيطان ثم بنى مختبراً لاستدعائه بسرعة أكبر, ، مما يخبرك بأن «السباق» استراتيجية اختارها أحدهم وليس قانوناً فيزيائياً يطيعه أحد. والاستراتيجيات يمكن التخلي عنها حين تكف عن أن تكون منطقية. وهذه الاستراتيجية كفت عن أن تكون منطقية حين تبين أن الجائزة نظام لا يستطيع أحد السيطرة عليه.
الخيار الذي لا يُطرح أبدًا
السباق المكسور يزيل الباب من المنظر وهو يقدم اثنين: العرق، أو الوقوف من جانب واحد وترك المتهور يرث المستقبل. ضع هذا الطريق، فقط الأحمق يختار الباب الثاني، والحجة تفوز بمغادرة الثالث.
الباب الثالث هو الذي استخدمه الخصوم الحقيقيون من قبل. كانت الولايات المتحدة والاتحاد السوفييتي خصمين بكل معنى الكلمة، يوجهان أسلحة تنهي العالم نحو مدن بعضهما. ومع ذلك وقّعا اتفاقيات للحد من التسلح وتحققا منها، لأن كلا الجانبين استطاع أن يرى أن سباقاً غير محدود يتركهما في وضع أسوأ من قاعدة تقيدهما بالتساوي. كان انعدام الثقة هو سبب الاتفاق، لا العائق أمامه.
يتميز الذكاء الفائق بسمة تجعل مثل هذا الاتفاق عقلانيا: لا تستفيد أي قوة كبرى من نظام لا يستطيع أحد السيطرة عليه، لذا لا تملك أي قوة كبرى مصلحة حقيقية في أن تكون هي من تبنيه أولا. تلك المصلحة المشتركة هي الأساس الذي يقوم عليه أي معاهدة: وقف ملزم وقابل للتحقق على تطوير الذكاء الفائق. الذكاء الفائقلا يمكن السيطرة عليها. رفض دائم لـ الذكاء الفائق كفئة منتج. لقد رسمنا شكل هذه الأداة، من معاهدة نموذجية إلى ال الخطة الأوسع إنها تعود التحقق صعب وكان من الصعب على الأسلحة النووية أيضا، وقد بنيت على أي حال، لأن البديل غير مقبول لكل شخص على الطاولة.
"السباق أو الاستسلام" خيار زائف. يعتمد التأطير على ألا تلاحظ الباب الذي تركه خارجاً.
رفض السباق
حفنة من المختبرات تختار بناء تكنولوجيا تعترف صراحة بأنها لا تعرف كيف تتحكم بها وتبررها بتوجيهها إلى منافس يفترض أنه يصنع نفس الاختيار المتهور لنفس السبب السيء كل جانب يُعرض عليه التهكم كعذر للآخرين
لا يتطلب أي من هذا الاعتقاد بأن المنافسة وهمية أو أن الجغرافيا السياسية لطيفة. يتطلب فقط ملاحظة أن سباقاً لا جائزة في نهايته ليس سباقاً يستحق أن تخسر نوعك من أجله، وأن الذين يخبرونك بأنه حتمي هم، في أغلب الأحيان، من يستفيد منه. السباق قصة. قصة جيدة، وملائمة لصناعة بأكملها. والقصة بالضبط هي ما يُسمح لك بالتوقف عن تصديقه.