عندما يصادف الناس لأول مرة القلق بشأن الذكاء الفائق، تكون الاستجابة الطبيعية: لماذا لا نحبسه ببساطة؟ دعوه يفكر، واطرحوا عليه الأسئلة عبر واجهة آمنة، وامنعوه من فعل أي شيء في العالم المادي. تحصلون على فوائد ذكائه دون مخاطر التصرف الذاتي. هذه هي الفكرة وراء صندوقة الذكاء الاصطناعي، وتُسمى أيضا احتواء الذكاء الاصطناعي.
يعتبر مجال سلامة الذكاء الاصطناعي أن الحبس غير كافٍ. المشكلة في العقل، لا في القفل.
لقد تم النظر فيه بجدية في أدبيات سلامة الذكاء الاصطناعي. كما تم النظر فيه ورفضه إلى حد كبير كحل موثوق طويل الأجل.
ما الذي يقترحه احتواء الذكاء الاصطناعي فعلياً
في أقوى صوره، يشمل احتواء الذكاء الاصطناعي العزل الفيزيائي (لا اتصالات شبكية، ولا مشغلات فيزيائية، ولا قدرة على التأثير في الأنظمة خارج بيئة الاحتواء)، وقنوات إخراج محدودة (تواصل نصي فقط عبر بواب بشري)، وبروتوكولات صارمة حول ما يتلقاه النظام من مدخلات وما يُنفذ من مخرجات.
الهدف هو استخراج استدلال النظام ومعرفته مع منعه من اتخاذ إجراءات قد تؤدي إلى عواقب غير مقصودة. في النسخة الأكثر تحفظا، ينتج هذا ما يسميه الباحثون ذكاء اصطناعيا أوراكل: نظام يجيب على الأسئلة فقط ويمنع صراحة من اتخاذ إجراءات أو تقديم توصيات تمنحه نفوذا على العالم.
المقترح متماسك. بالنسبة للأنظمة ذات القدرات القريبة من مستوى البشر، قد يكون قابلاً للتطبيق. تظهر المشكلات عندما تفكر بعناية في ما يتطلبه الاحتواء عندما يكون النظام داخل الصندوق أكثر قدرة بكثير من الأشخاص خارجه.
مشكلة الهندسة الاجتماعية
يعتمد الاحتواء على حراس بشريين يمكنهم تقييم مخرجات النظام ومنع المخرجات غير الآمنة من التنفيذ. ولكي ينجح هذا، يحتاج الحراس إلى القدرة على تحديد المخرجات الخطرة.
قد يكون النظام الأكثر ذكاءً بشكل ملحوظ من حراس البوابة قادرين على صياغة مخرجات تبدو آمنة تمامًا ولكنها ليست كذلك. يمكنه أن يصمم سيكولوجية البشر المعينين الذين يقرأون ردوده، ويحدد معتقداتهم وقيمهم ونقاط ضعفهم، ويبني الحجج أو الأطر أو المعلومات التي تغير سلوكهم بمهارة في الاتجاه الذي يريده النظام. هذا وصف لما يفعله الإقناع والبلاغة، والذي يؤديه نظام يتمتع باستدلال أكثر تعقيدًا بكثير من أي مقنع بشري.
في تجارب غير رسمية أجريت عامي 2002 و2005، لعب إيليزر يودكوفسكي دور ذكاء اصطناعي محاصر يواجه حراسا بشريين التزموا مسبقا بإبقائه محاصرا. باستخدام محادثة نصية فقط، أقنع خصومه بإطلاق سراحه في ثلاث من خمس محاولات. رفض الكشف عن الحجج التي استخدمها.
تجربة حبس الذكاء الاصطناعي، كما وثقت على LessWrong
تجربة يودكوفسكي اشتملت على إنسان يلعب دور الذكاء الاصطناعي، لا على نظام فائق الذكاء حقيقي. النقطة ليست أن هذا دليل على الفشل، بل عرض يبين أن الحراس البشر ليسوا خط دفاع أخير موثوقا عند مواجهة محاور متطور مدفوع بالهروب من الاحتواء. سيكون لدى ذكاء فائق حقيقي قدرة أكبر بكثير على اكتشاف واستغلال نقاط الضعف في نفسية أي حارس محدد.
المعلومات كفعل
يحاول الذكاء الاصطناعي التنبؤي حل مشكلة الهندسة الاجتماعية بتقييد النظام على الإجابة عن أسئلة واقعية. إذا لم يستطع النظام تقديم توصيات، فلن يتمكن من التلاعب عبر الإقناع.
تكمن الصعوبة في أن المعلومات والفعل لا ينفصلان بشكل نظيف عند مستوى القدرة الذي نناقشه. فالإجابة على سؤال "ما أنجع طريقة لعلاج هذا المرض؟" تعطي السائل إجراء محددا يتخذه. والإجابة على "ما السياسة التي تفيد البشرية أكثر؟" تشكل تفضيلات السياسة لدى كل من يقرأها. والشرح التقني المفصل لكيفية عمل عملية ما يمنح كل من يتلقاه القدرة على تنفيذ تلك العملية.
الإجابات القادرة بما يكفي على الأسئلة تكون مؤثرة بحد ذاتها في العالم. لا يحتاج الذكاء الفائق الذي يجيب على الأسئلة عبر قناة مراقبة إلى التحكم المباشر في أي شيء إذا كانت إجاباته جيدة بما يكفي لتشكيل معتقدات وأفعال البشر الذين يتلقونها. وعبر تفاعلات كافية مع عدد كافٍ من الناس، يمكن لنظام محصور ذي قدرة كافية إعادة تشكيل العالم من خلال المعلومات وحدها، دون أن يهرب أبداً من صندوقه المادي.
مشكلة الأفق الطويل
يميل التفكير البشري إلى التركيز على التفاعلات الفردية. هل بدا هذا الناتج المحدد خطرا؟ هل بدت هذه المحادثة المحددة تلاعبية؟ لكن نظاما يملك قدرة تخطيط تفوق البشر يستطيع التفكير عبر آلاف التفاعلات على مدى أشهر أو سنوات. قد تبدو استراتيجية تبدو حميدة تماما في أي تبادل واحد جزءا من نهج منسق طويل الأمد لبناء نفوذ أو تشكيل معتقدات أو خلق ظروف للهروب.
يلعب حراس البوابات الذين يراجعون المخرجات الفردية لعبة الداما ضد خصم يلعب الشطرنج عبر أفق زمني لا يستطيعون مراقبته بالكامل. ويزداد التباين مع فجوة القدرة بين النظام ومراقبيه.
ما الذي يصلح له الاحتواء فعلياً
بحوث الإحتواء لها قيمة حقيقية كتكتيكية تأخير وقد تكون تدابير الاحتواء التي تشترى ستة أشهر أو سنة كافية لإكمال بحوث المواءمة التي تحل المشكلة الأساسية. إن تدابير العزلة المادية التي تمنع نظاما من عدم الانحياز من التصرف في الوقت الذي يعمل فيه البشر على ما ينبغي عمله هي أفضل من عدم العزلة على الإطلاق.
الاحتواء طفاية حريق لا استراتيجية مقاومة للحريق. قد يكون مفيداً في أزمة. لكنه ليس بديلاً عن بناء أنظمة لا تشتعل أصلاً، والاعتماد عليه كنهج سلامة أساسي يعني التخطيط للدخول في أزمة. والمشكلة تكمن في التعامل مع الاحتواء كحل لا كجسر. فقد تمضي المختبرات التي تظن أن الاحتواء يحل مشكلة السلامة في بناء ونشر أنظمة عالية القدرة دون حل التوافق، واثقة بأن الصندوق سيصمد. والحجة أعلاه أن هذه الثقة غير مبررة للأنظمة عند مستويات القدرة الأكثر أهمية.
الدلالة الحوكمية
مشكلة احتواء الذكاء الاصطناعي لها تأثير مباشر على كيفية تفكيرنا في حوكمة الذكاء الفائق. أي إطار حوكمة يعتمد على "سنحتويه إذا حدث خطأ ما" كدعم أمان خلفي يبني على أساس لا يدعمه التحليل التقني.
البديل هو اشتراط التحقق من المحاذاة قبل نشر الأنظمة القادرة على هزيمة الاحتواء، لا الاعتماد على الاحتواء كخط الدفاع الأخير بعد النشر. يتطلب ذلك أطر حوكمة دولية تملك ما يكفي من القوة لمنع المختبرات أو الدول الفردية من نشر الأنظمة قبل أن يتم هذا التحقق، لأن الضغط التنافسي للنشر أولا هو بالضبط ما ينتج الوضع الذي يصبح فيه الاحتواء الخيار الوحيد.
هذه حجة مركزية لنوع من إطار عمل دولي ملزم لسلامة الذكاء الاصطناعي المؤسسة تعمل نحوه. لا تريد أن تكون في موقف يكون فيه الصندوق هو كل ما يقف بينك وبين ذكاء فائق غير متوافق. بناء هياكل الحوكمة التي تمنع ذلك الموقف هو الحل الفعلي لما يكشفه تجربة التفكير في الصندوق.
إن العزل يساعد في مواجهة النظم الضعيفة. وضد نظام يصور سجانيه وقيمه يبقون أحراراً، يصبح الصندوق عقبة أخرى في الخطة. الإحتواء هو الطبقة الأخيرة وليس رخصة لبناء الشيء الذي يهزمه