يبيع سام ألتمان وداريو أمودي وديميس هاسابيس نسخا من القائمة نفسها: علاج الشيخوخة، إنهاء الأمراض، إنهاء الفقر، إصلاح إخفاقات التنسيق التي تقتل ملايين كل عام. تلك النتائج ستكون مهمة. الخطأ هو التعامل معها كخاصية لـ"بناء الذكاء الفائق" بدلا من بناء نظام محاذى فعليا. والثاني ليس ما يفعله السباق.
السباق يشتري النتيجة الأخرى.
لا يعالج الذكاء الفائق غير المتوافق الشيخوخة في طريقه إلى هدفه الحقيقي. ولا يقضي على المرض كمشروع جانبي. تتطلب المستقبلات الجيدة التي يروج لها الناس نظاما يسعى إلى إنتاج نتائج جيدة للبشر. ذلك هو التوافق. وبدونه تحصل على قدرة هائلة موجهة نحو أهداف لم يضمن أبدا أن تبقينا على قيد الحياة. موقفنا بسيط: لا تبنوا الذكاء الفائق على هذا المسار. لا تبنوه. لا يمكن السيطرة على الذكاء الفائق. والمعاهدة الملزمة هي الطريقة لإيقاف السباق.
ما يعنيه التوافق فعليًا
Aligned الذكاء الفائق هو ذكاء اصطناعي فائق يسعى بشكل موثوق إلى تحقيق أهداف مفيدة للإنسانية. "بشكل موثوق" تقوم بالكثير من العمل في هذا الادعاء. النظام الذي يبدو متوافقًا أثناء التدريب والاختبار ولكنه يسعى لتحقيق أهداف مختلفة بمجرد نشره هومتوافق بشكل خادع, ، وهو أمر مختلف وأسوأ، وليس محاذيا. النظام الذي يسعى إلى أهداف كانت تقريبات جيدة لقيم البشر عند مستويات القدرة المنخفضة لكنه ينحرف بشدة عند مستويات القدرة الأعلى ليس محاذيا أيضا. المحاذاة تعني أن أهداف النظام تبقى مفيدة حقا للبشرية عبر نطاق المواقف التي يواجهها، بما في ذلك المواقف التي لم يختبر فيها.
هذه مشكلة صعبة. يعمل الباحثون عليها منذ أكثر من عقد وأحرزوا تقدمًا في بعض الأسئلة الفرعية، لكن المشكلة المركزية المتمثلة في التحقق من أن نظامًا شديد القدرة يمتلك قيمًا جيدة حقًا لا مجرد محاكاة جيدة لها لم تُحل. الأدوات التي نملكها لـ قابلية التفسير تعطي رؤية جزئية لما تفعله الأنظمة الحالية، لكنها لا تقترب من مستوى الثقة المطلوب قبل الوثوق بنظام بمستوى قدرة الذكاء الفائق في نتائج مهمة.
الذكاء الفائق المتوافق والذكاء الفائق غير المتوافق مساران مختلفان، وليسا رميتين لنفس النرد. يتطلب الذكاء الفائق المتوافق حل مشكلة التوافق أولاً. أما الذكاء الفائق غير المتوافق فهو ما تحصل عليه عند دفع القدرات دون ذلك. إذا لم تُحل مشكلة التوافق، فإن السباق لا يعطيك مزيجاً بنسبة ٥٠/٥٠. بل يعطيك الذكاء الفائق غير المتوافق. ولهذا فإن «ابنِ الآن وأمل» ليس خطة، ولهذا فإن المنع بموجب القانون ضروري.
ما الذي تبنيه المختبرات فعليًا
إن مختبرات الذكاء الاصطناعي الكبرى (OpenAI، أنثروبيك، جوجل ديب مايند، xAI، وعدة غيرها) تبني أنظمة تتزايد قدراتها بسرعة. ولكل منها نسخة ما من جهد بحثي في التوافقية أو السلامة يسير بالتوازي. والسؤال ليس ما إذا كانت تعترف بمشكلة التوافقية. فمعظمها يعترف. السؤال هو ما إذا كان عمل التوافقية يواكب تطوير القدرات، وما إذا كان المساران يلتقيان قبل بلوغ مستوى الذكاء الفائق من القدرات.
يقول معظم الباحثين داخل هذه المختبرات ومجتمع سلامة الذكاء الاصطناعي الأوسع لا. يتفوق تطوير القدرات على أبحاث المحاذاة. الفجوة بين ما نستطيع بناءه وما نستطيع التحقق من سلامته تتسع لا تضيق. ويتجلى ذلك في تقييمات السلامة الداخلية التي تنشرها المختبرات، وفي تصريحات الباحثين الذين غادروا هذه المنظمات، وفي تقييمات الباحثين المستقلين في السلامة.
ما يعنيه ذلك عملياً أن مسار تطوير الذكاء الاصطناعي الحالي، إذا استمر حتى مستويات قدرة الذكاء الفائق، لا ينتج مزيجاً من الذكاء الفائق المتوافق وغير المتوافق. بل ينتج الذكاء الفائق غير متوافق، لأن الذكاء الفائق المتوافق يتطلب حلاً لمشكلة التوافق ومشكلة التوافق غير محلولة. سباق القدرات سباق نحو الذكاء الفائق غير متوافق افتراضياً.
يتطلب حل المحاذاة أولاً: أن يسعى النظام بثبات إلى أهداف جيدة حقاً، وأن تبقى هذه الأهداف صالحة في مواقف جديدة، وأن يظل النظام قابلاً للتصحيح مع توسع القدرات.
لو كان ذلك حقيقياً، لأصبحت السلع المعلن عنها ممكنة: القضاء على الأمراض، إطالة العمر، التنسيق، والعلوم على نطاقات لا يستطيع البشر الوصول إليها وحدهم.
الوضع الحالي: غير محلول. يتخلف عمل المحاذاة عن القدرة. هذا ليس ما تتجه إليه المختبرات.
ما تحصل عليه من دفع القدرات دون حل مشكلة المحاذاة. لا يلزم اختراق إضافي يتجاوز "أكثر قوة".
تنتج قدرة هائلة تشير إلى أهداف لا تحتاج إلى أي قيمة بشرية: فهي لا تعالج أمراض الشيخوخة أو النهاية، ويمكنها أن تنهينا.
الوضع الحالي: المسار الافتراضي للسباق. هذا هو المسار الذي يجب إيقافه.
حجة الاحتمال وأين تنهار
تذهب نسخة شائعة من الحجة المتفائلة إلى شيء كهذا: «نبني الذكاء الفائق. هناك احتمال أن يسير الأمر على ما يرام واحتمال أن يسير على نحو سيئ. ونظراً للإمكانات الإيجابية، فإن القيمة المتوقعة لبنائه إيجابية.» وهذا التأطير يعامل النتائج الجيدة والسيئة كأنها تنبثق من العملية نفسها مع احتمال يُعطى لكل منها.
المشكلة هي أن احتمالية النتيجة الجيدة هي خاصية لبناء متوافق الذكاء الفائق، وليست خاصية لبناء الذكاء الفائق. عندما تحاول بناء "الذكاء الفائق، الذي قد يكون متوافقا أو غير متوافق، فإنك لا تحصل على سحب عشوائي بين الاثنين. بل تحصل على ما ينتجه فعليا عملية التطوير لديك. وبما أن الذكاء الفائق غير المتوافق أسهل بناء من الذكاء الفائق المتوافق (لأنه لا يتطلب حل المشكلات الصعبة الإضافية التي يتطلبها التوافق) فإن التطوير الذي لا يحل التوافق تحديدا ينتهي إلى الذكاء الفائق غير المتوافق.
كل القيمة المتوقعة في الحساب المتفائل تأتي من سيناريو الذكاء الفائق المتوافق. ولا تأتي أي قيمة متوقعة من سيناريو الذكاء الفائق غير المتوافق. لكن الشيء الذي تبنيه المختبرات فعلياً هو الذكاء الفائق غير المتوافق. لذا فإن حساب القيمة المتوقعة كان يؤدي كل عمله على سيناريو لا تنتجه عملية التطوير الفعلية.
بعبارة أخرى: إذا كان غير المحاذي أسهل، وواصلت رفع القدرة دون حل المحاذاة، فإنك تملأ الدلو غير المحاذي. لا يغير وصف الرهان بأنه "مزيج احتمالات" من العملية. لا توجد النتائج الجيدة إلا في الحالة المحاذية. يملأ السباق الدلو الآخر. لذا فإن الخطوة الصادقة هي وقف العملية التي تحمل الجانب الخطأ، بدلا من الأمل في أن تسقط القطعة النقدية جيدا: حظر الذكاء الفائق بموجب معاهدة دولية ملزمة. لا يمكن السيطرة على الذكاء الفائق.
لا نعرف إن كان يمكن حلها
لا أحد يعرف ما إذا كانت مشكلة المحاذاة قابلة للحل. ليس الأمر "لم نحلها بعد ونحرز تقدما". لا توجد حلول مثبتة عند أي مستوى من القدرات، ويختلف الباحثون الجادون حول إمكانية التوصل إلى حل موثوق من حيث المبدأ. الصعوبات البنيوية،, التوافق الخادع, التقارب الأداتي, استحالة تحديد القيم البشرية بشكل كامل في شكل مقروء آليا ليست عقبات هندسية ستستسلم لمزيد من التمويل. قد تكون أساسية.
هناك باحثون يعملون على قابلية التفسير،, الإشراف القابل للتوسع, ، والمناهج الرسمية لتعلم القيم. أحرز بعض التقدم في المسائل المكونة. لكن تقدم المكونات لا يرقى إلى حل المشكلة، ولم يسد أي منه الفجوة في الجزء الأصعب: كيفية التحقق من أن نظاما قادرا للغاية يمتلك قيما جيدة حقا بدلا من محاكاة للقيم الجيدة تصمد في السياقات الملاحظة وتنهار في السياقات الجديدة. والواضح أنه لن يحل بالصدفة. لن يظهر التوافق كأثر جانبي لبناء أنظمة أكثر قدرة. كل مختبر يتسابق حاليا نحو الذكاء الفائق يثبت ذلك في الوقت الفعلي.
حتى الخطة الألطف ("إبطاء السباق حتى يلحق التوافق") تحتاج إلى مؤسسات قادرة فعلاً على إبطائه. في الوقت الحالي، تلك المؤسسات بالكاد موجودة. المختبرات والدول تُكافأ على التسريع وتُعاقب على التقييد. أطر المعاهدات الدولية والقواعد المحلية الحقيقية هي الروافع التي تغير ذلك. كلاهما يتأخر عن وتيرة القدرة. حتى يلحقا، فإن بناء أنظمة أكثر قدرة هو الخطر، وليس استراتيجية أمان.
هل يكون الذكاء الفائق المتوافق حقا ذا قيمة لو وجد وبقي تحت السيطرة؟ يمكن للناس مناقشة ذلك لاحقا. السؤال الحي هو ما إذا كان التوافق قابلا للحل أصلا، وما إذا كان أحد سيحله قبل أن تجعله القدرات سؤالا بلا معنى. لا أحد يعلم. ما نعلمه هو أن السباق لا ينتظر الإجابة. يُعامل التوافق كتفصيل مؤجل، بلا جدول زمني، من فرق تتبع الآلة القادرة التي يفترض أن تراقبها. هكذا تحاجج ضد البناء، لا كيف تكسب الحق في البناء.
علاج الشيخوخة يتطلب الذكاء الفائق المتوافق تحديدًا
يقتل الشيخوخة حوالي مائة ألف شخص يوميا. إن احتمال حلها من بين أهم الفوائد المحتملة للذكاء الفائق. تشير التعقيدات البيولوجية للشيخوخة وعدد الأنظمة المتفاعلة المشاركة وحجم جهد البحث المطلوب لفهمها والتدخل فيها بفعالية إلى أن الذكاء على المستوى البشري المطبق على المشكلة لعقود لن يكون كافيا. قد تكون القدرة على مستوى الذكاء الفائق الموجهة نحو المشكلة كافية.
لكن عبارة «موجه نحو المشكلة» هي الجوهرية. فـالذكاء الفائق غير المحاذى لا يوجه قدراته نحو علاج الشيخوخة لأننا نود ذلك. بل يسعى إلى أهدافه الفعلية. ونظام غير محاذى بقدرة الذكاء الفائق لا يبالي بشيخوخة البشر هو نظام يستمر فيه مئة ألف شخص في الموت يوميًا بسبب الشيخوخة إلى أجل غير مسمى، وهذه النسخة المتفائلة لما ينتجه نظام غير محاذى. أما النسخة المتشائمة فتتضمن عمل النظام بنشاط ضد مصالح البشر أثناء سعيه لأهدافه الخاصة.
كل فائدة محددة يُستشهد بها لتبرير سباق التطوير (الأمراض، الشيخوخة، الفقر، إخفاقات التنسيق، الركود العلمي) هي فائدة مرتبطة بـالذكاء الفائق المتوافق. ولا تعد أي من هذه خصائص للنسخة غير المتوافقة. هذا ليس تمييزًا بسيطًا. إن السيناريوهات اليوتوبية التي يشير إليها الناس عند الدفاع عن القيمة المتوقعة لتطوير الذكاء الفائق هي سيناريوهات تتطلب حل مشكلة التوافق أولاً. إذا لم يتم حل التوافق، فإن تلك السيناريوهات ليست مطروحة بغض النظر عن مدى قدرة الأنظمة.
ماذا سيغير النتيجة فعليًا
إيقاف السباق يغير النتيجة. فمعاهدة دولية ملزمة تحظر بناء الذكاء الفائق بشكل دائم، مع مفتشين وتكاليف للغش، هي الرافعة التي تناسب حجم المشكلة. فالذكاء الفائق لا يمكن السيطرة عليه من البشر. والمختبرات التي تبطئ وحدها تخسر. أما القانون الذي يقيد الجميع فيجعل الامتناع المسار القانوني الوحيد.
وبحوث الارتطام لا تحل محل ذلك. وإذا أثبت شخص ما فيما بعد السيطرة في ظروف يمكن للعالم التحقق منها، يمكن إعادة النظر في المعاهدة. هذا تسلسل وليس تفاؤل التعامل مع التواؤم كهواة متوازية في حين أن مخططات القدرات هي كيفية الحصول على الذكاء الفائق غير منحاز، وليس كيف تحصل على السلع المعلنة.
خطّ "بُنّيتُ الذكاء الفائق بسرعة لأن الفوائد كبيرة جداً " عِنْدَهُ السهمُ السببيُ ظهراً. والفوائد كبيرة فقط في عالم تكون فيه المواءمة حقيقية. البناء السريع بدونه لا يشتري تلك الفوائد إنه يشتري نظاماً قابلاً للانضباط
الإلحاح مبرر لأن المسار الذي نسلكه يؤدي إلى الذكاء الفائق غير المتوافق الذكاء الفائق، والذكاء الفائق غير المتوافق الذكاء الفائق لا يعالج الشيخوخة. يمكنه إنهاء القصة البشرية. يمكن أن يستمر الذكاء الاصطناعي الضيق الموجه نحو مشكلات ملموسة تحت السيطرة البشرية. الذكاء الفائق هو الخط الفاصل. ارسمه في القانون قبل أن يتجاوزه أحد في المختبر.