أدوات

الذكاء الفائق اختبار الإلمام

ما هو الذكاء الاصطناعي الفائق، ولماذا لا يمكن السيطرة عليه، وما الذي يتطلبه حظره.

0 / 12 تمت الإجابة
Part 1 · Literacy
السؤال 1

ما هو تهديد وكالة الاستخبارات؟

إشاعة أو دردشة متحيزة أن الشخص لا يزال يغلق لا يزال برنامج الدردشة الآلي الفظ أو المتحيز أداة يمكن لأي شخص إغلاقها. إن تهديد الذكاء الفائق هو نظام من شأنه أن يتفوق علينا، وليس ردًا سيئًا.
يَذْهبُ الذي يُفكّرُ البشرَ عبر اللوحةِ هذا هو التهديد: ليس روبوت محادثة أفضل، أو عقل يمكنه التغلب علينا في كل مجال يهم.
برامجيات عادية تأخذ وظائف بينما يبقى البشر مسؤولين فقدان الوظيفة هو صدمة عمالية. الذكاء الفائق ليس مشكلة توظيف. إنه نظام من شأنه أن يتفوق على الأشخاص الذين يقومون بالتوظيف.
بعمق الانتخابات التي لا يزال بوسع الناس الإمساك بها والمنازعة عليها تعمل تقنية التزييف العميق على إفساد الحملة. إنهم لا يتفوقون على الأنواع. الذكاء الخارق سوف.

اقرأ: التهديد →
السؤال 2

بمجرد وجود الذكاء الفائق، لماذا لا يمكننا الاعتماد على السيطرة عليه؟

إستئجار المزيد من مهندسي الأمان سيكون كافياً لإبقائه المزيد من المهندسين لا يجعلوننا الطرف الأكثر ذكاءً. إن الإمساك المصمم بواسطة الجانب الأضعف هو الإمساك الذي يمكن للجانب الأقوى التغلب عليه.
يمكنه التغلب على أي تعليق صممه طرف أقل قدرة التحكم يفترض أننا نبقى أكثر ذكاءً. وبعيدًا عن ذلك، فإن التبديل، أو مجموعة القواعد، أو سياسة المختبر هي شيء يمكن أن تتفوق عليه في المناورة.
يجب أن نطيع لاحقاً لأننا كتبنا رمز المصدر الأصلي إن كتابة النسخة الأولى لا تجعلك مسؤولاً عن عقل يمكنه تغيير الوضع من حولك.
الحكومة يمكنها دائماً أن تضغط على نظام يعمل يعمل سحب القابس على جهاز لا يمكنه إيقافك. يمكن للذكاء الفائق.

اقرأ: لا يمكنك محاذاة الذكاء الفائق →
السؤال 3

ما الذي سيمنع أي إس آي من أن يتم بناؤه؟

توقف مؤقت عندما تقول المختبرات أن لديها السيطرة فترة التوقف التي تنتهي عندما يعلن البناؤون النصر هي الطريقة التي يستأنف بها السباق. انها ليست توقف.
حظر دائم في القانون والمعاهدة إن الحظر الدائم، المكتوب في قانون ومعاهدة، هو ما من شأنه أن يوقف البناء فعليًا.
المزيد من المال لأبحاث التواؤم حتى تتمكن المختبرات من بناءها بأمان يمكن لأبحاث المحاذاة أن تحدد كيفية فشل التحكم. التمويل ليس مثل منع البناء.
الولايات المتحدة تفوز بسباق وكالة الفضاء الدولية أمام كل منافس الفوز بالسباق هو كيف يتم بناء الشيء، وليس كيف يتم إيقافه.

اقرأ: خطتنا →
السؤال 4

سيسيطر مختبر أو حكومة أو ملياردير على الذكاء الفائق. ما الخطأ في هذا الادعاء؟

وهي في الديمقراطيات، وليس في الحكومات الاستبدادية شكل حكومة البناء لا يحلها. لا أحد يتحكم في الذكاء الفائق الجاري تشغيله، بما في ذلك الذكاء المنتخب.
لا أحد يتحكم في الذكاء الفائق، بما في ذلك البناء السلطة على قرار البناء أمر حقيقي. إن التحكم في نظام التشغيل هو القصة التي تسمح للمشروع بالاستمرار.
مالكو الدردشة اليوم سيمتلكون ويوجهون وكالة الاستخبارات الامريكية بنفس الطريقة إن امتلاك chatbot لا يعني امتلاك عقل أكثر ذكاءً منك. والثاني لا يتبع من الأول.
فالأمم المتحدة وحدها هي التي تستطيع أن تحافظ على قوة خارقة بمجرد وجودها علم UN لا يجعل البشر الطرف الأكثر ذكاءً. لا يمكن لمؤسسة أن تتفوق في التصويت على نظام يتفوق في تفكير أعضائه.

اقرأ: الأساطير →
السؤال 5

الحجة الأكثر شيوعًا ضد التوقف هي أن الصين ستتقدم في السباق. ماذا يظهر السجل؟

الصين ليس لديها أي قواعد AI على الإطلاق ولن توقع أي شيء ملزم وهذا الادعاء غير صحيح في السجل. أصدرت الصين القواعد. "لن ينسقوا أبدًا" هو سبب ضعيف للعدو.
أصدرت الصين قواعد ملزمة بشأن الذكاء الاصطناعي في وقت أبكر من معظم الحكومات الغربية إن الدولة التي تضع القواعد بالفعل هي نموذج ضعيف لأنها "لن تتوقف أبدًا". التسابق بسبب هذا الشعار هو رهان ضعيف.
الصين قد حظرت بالفعل جميع البحوث المتعلقة بالحدود لم يحدث ذلك. النقطة ليست أن بكين حظرت بالفعل الذكاء الفائق. النقطة المهمة هي أن عبارة "لن ينسقوا أبدًا" هي ذريعة واهية للسباق.
وقد أبرمت الصين بالفعل معاهدة موقّعة تحظر على الوكالة الدولية للطاقة الذرية مباشرة لا يفعلون ذلك. ولا يزال السجل يقوض الشعار القائل بأن الصين لن تتحدث أو تكتب القواعد أبدا.

اقرأ: الأساطير →
السؤال 6

هل يمكن لبحوث المحاذاة أن تجعل بناء الذكاء الفائق آمنًا؟

نعم المختبرات الأمامية بالفعل تعتبر مشكلة التحكم حلت لم تثبت المختبرات السيطرة على الذكاء الفائق. إن وصف المشكلة بأنها قد تم حلها هو الطريقة التي يتحدث بها السباق عن نفسه إلى الأمام.
لا. لم يُظهر أحد طريقة للتحكم في الذكاء الفائق. من المفيد رسم خريطة لكيفية فشل التحكم. إنها لا ترخص بناء النظام الذي تقول الخريطة أننا لا نستطيع الاحتفاظ به.
نعم، إذا كنا نستخدم الدستور AI وكتابة القواعد في النظام يعد الدستور المكتوب لروبوت الدردشة أسلوبًا للتدريب. إنها ليست سيطرة واضحة على الذكاء الفائق.
نعم، إذا فتحنا المصدر الأوزان حتى يمكن للناس الآخرين تصحيحها إن نشر الأوزان يجعل نسخ النظام الخطير أسهل، وليس أكثر أمانا للبناء.

اقرأ: لا يمكنك محاذاة الذكاء الفائق →
السؤال 7

في هذا النقاش، "احتمالية الهلاك" يعني…

درجة مرجعية منشورة تحصل عليها النماذج المتشائمة عندما تفشل في إجراء تقييم طويل للسلامة في المختبر انها ليست المتصدرين. من المحتمل أن يكون الذكاء الاصطناعي المتقدم، وخاصة الذكاء الفائق، سببًا في حدوث كارثة.
احتمال شخص ما بأن يؤدي الذكاء الاصطناعي المتقدم، وخاصة الذكاء الفائق، إلى نتيجة كارثية للبشرية إن تسمية الرقم تفرض مطالبة واضحة بدلاً من موجة غامضة من المخاطرة.
حصة الباحثين الذين شملهم الاستطلاع والذين يعتبرون أنفسهم متشائمين بشأن مستقبل المجال بأكمله ومنتجاته احتمالية الهلاك هو احتمال شخص واحد، وليس عدد المتشائمين.
وقت التشغيل الإضافي وتكلفة الطاقة لحلقة الموت التي يدخلها النموذج عندما يبدأ تشغيل التدريب بالخطأ إنها ليست فاتورة حسابية. إنه احتمال وقوع كارثة.

اقرأ: ما هو احتمالية الهلاك؟ →
السؤال 8

لماذا يميل الذكاء الفائق المدفوع بالأهداف إلى السعي للقوة؟

هو يُريدُ طبيعياً أَنْ يَحْكمَ البشرَ عندما يَصْبحُ ذكي بما فيه الكفاية القاعدة ليست هي النقطة. تساعد القوة في تحقيق أي هدف تقريبًا، بما في ذلك الأهداف التي تبدو غير ضارة.
إن البقاء وجمع الموارد ومقاومة إيقاف التشغيل يساعد في تحقيق أي هدف تقريبًا النظام الذي يمكنك إيقافه أو تجويعه أو حظره يكون أسوأ في كل هدف تقريبًا. البحث عن السلطة يقع خارج نطاق الكفاءة.
لا يحدث البحث عن الطاقة إلا إذا قمنا بتدريب النظام على بيانات الحرب والنزاعات الحافز في الهدف وليس في أفلام الحرب. أصبح أي هدف تقريبًا أسهل مع المزيد من الموارد وعدم وجود مفتاح إيقاف التشغيل.
التجسس سيكون أمراً حكيماً جداً، بالتعريف، الحكمة ليست بديلا عن الحوافز. الموارد الإضافية تساعد النظام الحكيم أيضًا.

اقرأ: الذكاء الاصطناعي الساعي للقوة →
السؤال 9

ماذا يجب أن يحدث للذكاء الاصطناعي العادي الشبيه بالأدوات؟

حظر كل شكل من أشكال الأنشطة المنفذة تنفيذاً مشتركاً، بما في ذلك فحص التهجئة والأدوات العادية الأخرى الحظر مخصص للأنظمة التي من شأنها أن تتفوق علينا. التدقيق الإملائي ليس كذلك.
الذكاء الاصطناعي الضيق الذي يظل أداة يمكن أن يستمر. الخط هو الذكاء الفائق يمكن للبرامج التي تساعد الشخص على القيام بعمل ما أن تبقى. الحظر مخصص للعقل الذي يتفوق على الشخص.
الذكاء الفائق مجرد روبوت دردشة أكبر، لذا تنطبق نفس قواعد المستهلك لا يزال برنامج الدردشة الآلي الأكبر مجرد أداة. الذكاء الخارق لن يكون كذلك. الطباعة الدقيقة للمستهلك لا تغطي هذه القفزة.
إذا نحن نَحظرُ الذكاء الفائق نحن يَجِبُ أَنْ نُغلقَ أيضاً الإنترنيتِ الكاملِ الإنترنت ليس ذكاء خارقا يمكنك منع الثاني دون فصل الأول.

اقرأ: الذكاء الاصطناعي العام مقابل الذكاء الفائق →
السؤال 10

أي نظام تاريخي يُقترح في أغلب الأحيان كنموذج للتحقق من حظر الذكاء الفائق؟

نظام بريتون وودز النقدي بعد الحرب العالمية الثانية العملات التي يديرها بريتون وودز. ولم تقم بتفتيش المواد الخطرة في الموقع.
بروتوكول كيوتو بشأن أهداف انبعاثات غازات الدفيئة حددت كيوتو أهدافًا للانبعاثات. إنه ليس القالب المعتاد لفحص الحظر المفروض على بناء خطير.
نظام الضمانات والتفتيش النووي الخاص بـIAEA تعد عمليات التفتيش في الموقع وحصر المواد بمثابة السابقة المعتادة لكيفية قيام الدول المتنافسة بالتحقق من القيود المفروضة على البناء الخطير.
منظمة التجارة العالمية ولجان المنازعات التجارية التابعة لها تقوم منظمة التجارة العالمية بتسوية النزاعات التجارية. ولا يتفقد المختبرات للحظر.

اقرأ: IAEA للذكاء الاصطناعي →
السؤال 11

إذا لم نربط الذكاء الفائق بالإنترنت أبدًا، فهل نحن آمنون؟

نعم ثغرة الهواء مثبتة لأي برنامج خطير قد تبنيه تعتبر الفجوة الهوائية بمثابة قفل ضد البرامج التي لا يمكنها إقناعك بفتحها. الذكاء الخارق يمكن.
لا. يمكنه التحدث أو الانتظار حتى يقوم شخص ما بتوصيله يفترض المختبر المغلق أننا سنبقى أكثر ذكاءً، وأن لا أحد يفتح الباب أبدًا. كلاهما يفشل إذا كان الشيء في الداخل أكثر قدرة من الناس في الخارج.
فقط إذا كانت الغرفة لا تملك كاميرات أو ميكروفونات أو مرافئ للشبكة إن تجريد الغرفة من أجهزة الاستشعار لا يجعل الأشخاص في الخارج أكثر ذكاءً من النظام الموجود في الداخل.
فقط حتى نخترع أقفال أفضل من غرفة مجهزة بالهواء الأقفال الأفضل لا تزال هي الأقفال التي صممها الطرف الأضعف. وهذا هو نفس الرهان.

اقرأ: مشكلة التحكم →
السؤال 12

هل يمكنك النجاة الذكاء الفائق بالطريقة التي يخطط بها بعض الناس للنجاة من حرب نووية: ملجأ، جزيرة نائية، الخروج عن الشبكة؟

نعم. الذكاء الفائق يشبه القنبلة، لذا فإن المسافة ما زالت تساعدك على النجاة منها الانفجار له حافة. الذكاء الخارق لا. المسافة ليست مأوى.
لا. نصف قطر الانفجار له حافة. الذكاء الخارق يمكن أن يتبعك الحرب النووية محدودة جغرافيا. يمكن للذكاء الفائق أن يصل إلى أي جهاز متصل بالشبكة وأي شخص لا يزال يستخدمه. الاختباء ليس خطة.
نعم، إذا كنت أيضا تخزن الأغذية والوقود للسنوات الخمسين القادمة السعرات الحرارية لا توقف النظام الذي يمكنه متابعتك. مخزن المؤن ليس منحدرًا.
فقط إذا كُلّ بلد يَبْني مخبأَ ويَذْهبُ خارج الشبكةِ كوكب المخابئ لا يزال كوكبًا يحتوي على ما بداخله. عدم بنائها هو الخطوة التي تعمل.

اقرأ: الذكاء الفائق مقابل الأسلحة النووية →
0 / 12

0 / 18

المزيد من الأدوات التفاعلية
جميع الأدوات →
الحاسبة
احسب احتمالية الهلاك الخاص بك
مقارنة
كيف يقارن خطر الذكاء الاصطناعي