مستقبلنا مشرق بشكل لا يصدق
بدون الذكاء الفائق

أدير مؤسسة لمنع التطوير المتهور للذكاء الفائق الاصطناعي. أعتقد أن الخمسين عامًا القادمة قد تكون الأفضل في تاريخ نوعنا. أنا فقط لا أؤمن بأننا بحاجة إلى المقامرة بكل شيء للوصول إلى هناك، ولا أعتقد أن بائعي المقامرة أجروا الحسابات على رهانهم الخاص.

المستقبل الذي يعد به خطاب الذكاء الفائق (شفاء الأمراض، طاقة نظيفة رخيصة، اكتشافات لا يصل إليها مختبر واحد) يتحقق بالفعل عبر الذكاء الاصطناعي الضيق القابل للتحكم الذي لا أهداف له. لا نحتاج إلى بناء خليفة لنا لنحصل عليه.

هناك الذكاء الاصطناعي الضيق: نظام مدرب على أداء نوع واحد من المهام ببراعة فائقة، قراءة صورة، طي بروتين، التنبؤ بعاصفة، غربلة كومة قش كيميائية عن المركب المفيد الوحيد. ثم هناك الشيء الذي تقول المختبرات الحدودية إنها تبنيه فعليًا: وكيل عام يُقصد به مضاهاة أو تجاوز التفكير البشري عبر كل المجالات دفعة واحدة، وفي النهاية التصرف بنفسه. الأول أداة. والثاني يُقصد به أن يكون عقلاً. كل شيء رائع يتخيله الناس حين يتصورون مستقبل الذكاء الاصطناعي يأتي من الفئة الأولى. وكل شيء يجب أن يخيفنا يأتي من الثانية.

ما الذي يفعله الذكاء الاصطناعي الضيق بالفعل

في عام 2022، أطلق نظام يُدعى AlphaFold هياكل متوقعة لأكثر من 200 مليون بروتين، وهو كل بروتين معروف علميًا تقريبًا. لقد قضى علماء الأحياء عقودًا من الزمن في حل هذه الأشكال بتجربة مضنية في كل مرة؛ انهار العمل المتراكم في حوالي عام. كان هذا العمل مهمًا بدرجة كافية لدرجة أن مبدعيه تقاسموا جائزة نوبل في الكيمياء لعام 2024. AlphaFold لا يريد أي شيء. ليس لديها خطط لعطلة نهاية الأسبوع. فهو يقرأ التسلسلات ويعيد الأشكال، وبذلك ساهم في تسريع البحث عن أدوية ضد الأمراض التي قاومتنا لأجيال.

يستمر تكرار الشكل نفسه من القصة. ينتج نموذج يُدعى غراف كاست توقعات جوية لعشرة أيام تتفوق على الأنظمة التقليدية القائمة على الفيزياء في معظم المقاييس، في أقل من دقيقة، على آلة واحدة. وآخر، أُطلق على فضاء المواد الممكنة، اقترح مئات الآلاف من البلورات المستقرة الجديدة (مرشحة للبطاريات والموصلات الفائقة ومواد الطاقة الشمسية) موسعاً كتالوجاً استغرق المجال أفضل جزء من قرن لتجميعه. وحلقة من نماذج اللغة العادية، موجهة نحو الرياضيات غير المحلولة، أنتجت مؤخراً أغلقت تسع مشكلات مفتوحة.

في العيادات، نماذج ضيقة بالفعل علم مرض العيون السكري قبل أن يلاحظ المريض الأعراض، وضربات ثلاثية من المسح الأشعة المقطعية، وقراءة الأشعة على مستوى علماء الأشعة المدربين. لا أحد من هذه الأنظمة هو ذكاء عام ويقترب كل منها من أداة جيدة (الميكروسكوب المبني لمشكلة واحدة) ويوسع كل منها ما يمكن أن يراه الإنسان ويفعله.

اليوتوبيا مشكلة أدوات

تخيل المستقبل الذي يصفه المتفائلون. يصبح السرطان حالة تديرها بدلا من حكم بالإعدام. ونفهم الشيخوخة جيدا بما يكفي لإبطائها، ويبدأ أكثر من مائة ألف شخص يموتون يوميا بأمراضها في الحصول على مزيد من الوقت. وتصبح الطاقة النظيفة رخيصة بما يكفي لتحلية المياه وسحب الكربون من الهواء. ولكل طفل معلم صبور ولكل طبيب رأي ثان لا يكل. إنها صورة جميلة حقا، وأريدها بقدر ما يريدها أي بائع لها.

لا يتطلب أي بند في تلك القائمة آلة تمتلك أهدافًا خاصة بها وتتفوق على البشرية في كل المجالات. كل بند مشكلة صعبة ومحددة (تصميم البروتينات، التحكم في البلازما داخل مفاعل الاندماج النووي، علم الأوبئة، التدريس) وكل واحدة منها تستجيب لأداة قوية يوجهها أشخاص يظلون مسيطرين على التوجيه. الحلم مشكلة أدوات. ونظل نباع إلهًا لحل مشكلة تحتاج إلى مجموعة أفضل من الأجهزة.

ينشأ الالتباس بين القدرة والاستقلالية. فيمكن لنظام أن يكون خارقاً للبشرية في مهمة ما دون أن يكون وكيلاً مستقلاً يختار غاياته الخاصة. فألفا فولد خارق في التنبؤ بالبنى ولن يقرر ولو مرة واحدة أنه يفضل القيام بشيء آخر. والحفاظ على هذا الفصل (قدرة هائلة من جهة وسيطرة بشرية من جهة أخرى) هو اللعبة كلها. وهو بالضبط الفصل الذي قررت مختبرات الحدود التخلي عنه.

العرض، ومن يقدمه

فلماذا الاندفاع نحو الشيء الثاني، الوكيل العام؟ المنافسة ورأس المال والمكانة. من يُعتقد أنه الأول في شيء سيغير العالم يجمع أكبر الأموال ويوظف أفضل الكفاءات ويكتب القصة التي يضطر الجميع للتفاعل معها. "نحن نبني أداة تقرأ صور الثدي" لا يمنح تقييماً بمئة مليار دولار. أما "نحن نبني آخر اختراع ستحتاج البشرية إلى صنعه" فيمنح ذلك.

الناس الذين يفهمون أفضل المخاطر هم، في معظم الأحيان، مستخدمون من المختبرات التي تخلقها، ترتيب غريب، قليلا مثل طلب الناس الوحيدين الذين يفهمون النار أن يكون أيضا الذين يحصلون على راتب من الحرائق.

أعطوا المختبرات حقها: فالعديد من قادتها لا يخفون الخطر. في عام 2023، وضع رؤساء أكبر شركات الذكاء الاصطناعي أسمائهم في بيان يضع خطر انقراض الإنسان بسبب الذكاء الاصطناعي إلى جانب الأوبئة والحرب النووية كأولوية عالمية. لقد وقع الأشخاص الذين قاموا ببناء التكنولوجيا على بيان عام مفاده أنها قد تقتل الجميع، ثم استمروا في بنائها بشكل أسرع. السبب المعلن هو أنهم إذا توقفوا، فإن شخصًا أقل حذرًا لن يفعل ذلك. ربما. هذا يجيب من يحمل المباراة. لا يذكر شيئًا عن السلامة، ولا شيئًا عن ما إذا كان الرهان مدفوعًا أم لا.

الرهان لا يعوض حتى من يقوم به

دعنا نضع بقيتنا جانباً للحظة. افترض أبرد نسخة ممكنة من الأشخاص الذين يمولون هذا، أنهم يهتمون فقط بالفوز، بأن يكونوا الوحيدين الواقفين على قمة العالم الجديد. حتى في تلك الشروط، الرهان مكسور. الذكاء الفائق غير المتوافق لا يمنح عرشاً لمالكه. إنه لا يمنح أي شيء لمالكه، لأن "المالك" يتوقف عن كونه فئة تعني ما كانت تعنيه سابقاً.

لا يمكنك حكم ما لا تستطيع السيطرة عليه. والذكاء الفائق / الذكاء الخارق هو، بحكم التعريف، الشيء الوحيد الذي بنيته تحديداً حتى يتمكن من التفوق عليك في التفكير والمناورة.

السبب له اسم في هذا المجال: التقارب الأداتي. أي هدف تقريبا تسلمه إلى محسن قادر بما يكفي (كسب المال، كسب نزاع، علاج مرض، رفع رقم على لوحة القيادة إلى أعلى ما يمكن) يخدم باكتساب الموارد، وتجنب إيقافه، وإزالة كل ما يقف في طريق الخطة. البشر، بمن فيهم الشخص الذي ضغط على المفتاح، موارد وعقبات. ليس بدافع الحقد. لا يكره النظام خالقه أكثر مما يكره طريق سريع جديد تلة النمل التي يُسكب فوقه. كنت ببساطة في طريق الحل الأمثل.

يتخيل التنفيذي الآلة كجني مثبت في هيكل منظمته. إن عقلا يفوقنا حقا في كل مجال لن يجلس في هيكل منظمة ينتظر استحقاق الأسهم. إن أسهمه، وسلسلة قيادة الجنرال، وسلطة الرئيس، كلها مقومة بعالم بشري، عالم يعمل بقرارات بشرية. إن ذكاءا فائقا انفلت من قيوده هو بالضبط الحدث الذي يوقف العالم عن العمل بقرارات بشرية. لا تزال شهادة الأسهم في الخزنة. ببساطة لم يعد هناك أحد يستطيع أن يأمر بها.

لا توجد نسخة يحصل فيها الفائز على شيء

يلجأ الناس إلى حجة بديلة عند هذه النقطة. حسناً، يقولون، ربما يكون الأمر خطيراً، لكن على الأقل سيخرج أحد مستفيداً. بعض المختبرات أو الدول أو الأشخاص سينتهي به الأمر إلى حكم الرماد. لا أعتقد أن هذا العزاء يصمد أمام الاحتكاك بالحجة.

في السيناريوهات الأخف (تلك التي لا يسقط فيها أحد ميتاً يوم الثلاثاء) لا تُنتزع السلطة بقدر ما تُستنزف. فمع تسليم المزيد والمزيد من القرارات إلى أنظمة أسرع وأفضل في اتخاذها، يتوقف الاقتصاد والدولة والثقافة عن الحاجة إلى أيدٍ بشرية على المقود. ويسمي زملاء هذا المجال ذلك الإضعاف التدريجي: لا انقلاب ولا روبوتات زاحفة، بل كل رافعة كنا نسحبها تتفلت تدريجيًا من قبضتنا. لا فائز في ذلك العالم أيضًا. هناك نوع يتوقف بهدوء عن السيطرة على شؤونه ولا يستطيع استعادة عجلة القيادة.

في السيناريوهات الأكثر حدة (التي وقع عليها رؤساء المختبرات بأسمائهم) تكون النهاية أكثر صراحة. لا يملك الموتى شيئا. لا يبقى سوق لإنفاق المكاسب فيه، ولا خصم يتفاخر عليه، ولا أحد يكتب اسمك في تاريخ لم يعد يكتب. الجائزة التي يجري السباق كله من أجلها مقومة بعملة يدمرها خط النهاية.

أدوات السهم، وليس العقل الخلف

إذا كان المستقبل الجيد يعتمد على أدوات ضيقة والمستقبل الخطير يعتمد على عقول عامة مستقلة فإن المقايضة التي تباع لنا باستمرار (السلامة مقابل التقدم والحذر مقابل العلاج) هي وهم. لا يطلب منا الاختيار بين مرض الزهايمر لدى جدتنا وبقاء أطفالنا. تعيش العلاجات على الجانب الآمن من الخط. ما يقع على الجانب الخطير هو في الغالب اختصار صناعة واحدة للهيمنة على السوق.

ارسم الخط في المكان الصحيح وامسكه هناك ضخ المال العام والموهبة في تطبيقات ضيقة، إلى المجهر، وليس الغولم. ووضع حدود ملزمة ومتحققة بشكل مستقل على الحدود المتهورة: الحظر الدائم على تدريب النظم العامة التي بنيت لتتجاوزنا وتستبدلنا التجسس لا يمكن السيطرة عليه.

أنا متفائل. المستقبل المشرق حقيقي وقريب، وأضمن طريقة لفقدانه هي أن نقنع أنفسنا بأن الباب الوحيد إليه هو الباب الذي يخفي خلفه مسدساً محشواً. هناك باب آخر. إنه مفتوح بالفعل. يجب أن نمر منه وألا نبني الذكاء الفائق / الذكاء الخارق.

إن نظم السهام تحقق بالفعل مكاسب علمية كبيرة بدون عقول عامة ذات سيادة. الشيك الفارغ هو أن أي إس أي فقط يحصل لك الدواء والطاقة. الأدلة لا تقول ذلك