كيف تقضي 5 دقائق عندما لا يزال الشخص عبر الطاولة يعتقد أن (آي) يعني أن (تشات جي بي تي) يقوم بصياغة بريد إلكتروني؟ أرفعوا أكوام الآلية، وأعينكم متوهجة كومات الدم تصل، والناس ملف لك مع واعظ الشارع والعودة إلى الحلوى. الذي يَبْقى a متشكّل، غريب ذكيّ خمسة تحركاتِ، في هذا الترتيبِ.
هم يتصورون الروبوت الدردشي
عندما يسمع أحدهم "آي" يصور المساعد على هاتفه أو التطبيق الذي يصنع صوراً سخيفة ابدأي هناك والغرفة قد اختفت بالفعل لأنهم يعرفون أن الثرثرة لن تنهي العالم حرّك الهدف في أول خمس عشرة ثانية
الخطر هو آلة أفضل من أفضل البشر في كل مهمة تهم، بما في ذلك مهمة تصميم آلات أفضل. اسمه هو الذكاء الفائق الاصطناعي, ، ولا نملكه بعد. ما نملكه هو نية معلنة. أكبر شركات الذكاء الاصطناعي على الأرض تقول إن بناءه هو الهدف، ويتوقع عدة منها الوصول إليه خلال سنوات لا أجيال. معظم الناس لا يعرفون هذه الحقيقة الوحيدة، وهي التي تقوم بمعظم العمل. بناء عقل أذكى منا هو المشروع الرئيسي لأفضل المختبرات تمويلًا في العالم. سيقولون لك ذلك بأنفسهم.
لا أحد يعرف كيف يتحكم بآلة أذكى من نفسه
نحن نبني واحدة على أية حال
مشكلة جعل ذكاء اصطناعي قوي يريد بموثوقية ما يريده صانعوه، ويستمر في ذلك مع ازدياد قدراته، لها اسم مشكلة التحكم. إنه غير محلول. سيقول المهندسون داخل هذه الشركات الشيء نفسه إذا سألتهم من دون وجود مسؤول إعلامي. يستطيعون رفع قدرة النموذج بسرعة أكبر بكثير مما يستطيعون رفع ثقتهم بأنه سيفعل ما قصدوه. المسافة بين هذين الخطين هي حيث يعيش الخطر.
نحن نبني عقلاً أذكى من عقولنا، عن قصد، قبل أن تكون لدينا أي فكرة عن كيفية إبقائه موجهًا نحو طريقنا.
لماذا "الأذكى" هو المشكلة بأكملها
الناس يضعفون كلمة "الذكاء". المخابرات وضعت البشر مسؤولين عن هذا الكوكب نحن لسنا أكبر أو أقوى المخلوقات التي عاشت ندير المكان لأننا نفكر في كل شيء آخر عليه مستقبل الغوريلا الجبلي يعتمد على قراراتنا وليس من قبل الغوريلا وليس لأن أي شخص يكره الغوريلا لدينا أهداف غابة الغوريلا تجلس في بعض الأحيان حيث تلك الأهداف تريد أن تذهب.
الآن صورة بناء شيء يقف لنا الطريق نحن نقف إلى الغوريلا. وإذا تفككت أهدافه وغاياتنا، فإن العداء اختياري: نظام أفضل في التخطيط مما نحن عليه، مشار إليه بشيء آخر، كاف بالفعل، ونسخة لاحقة من نفس المجموعة لا تصلحه.
مفتاح الإيقاف، والخيال العلمي
الأول: نحن ببساطة نغلقه. أي نظام ذكي بما فيه الكفاية ليكون خطيرا هو ذكي بما فيه الكفاية لملاحظة أن التبديل من شأنه أن يوقفه من الانتهاء من ما هو محدد للقيام به. إذاً لديه سبب لمنع ذلك بنسخ نفسه في مكان آخر أو بجعل نفسه مفيداً جداً الإيمان في التبديل يفترض أن نبقي الحفلة الأذكى في الغرفة ففرضية القلق هي أننا لن نكون كذلك.
الثانية: هذا خيال علمي. كان، حتى بدأت النظم الاختبارات العابرة كنا متأكدين أننا سنستغرق عقوداً والقيام بالعمل الذي افترضنا أنه بشري بأمان لا أحد لديه موعد يستحق الثقة الباحثون الأقرب من العمل توقفوا بهدوء عن تسمية التجسس بعيداً الجداول الزمنية المنشورة استمر في الاقتراب بدلاً من الابتعاد أكثر.
انتهِ حيث يمكنهم فعل شيء
الخطأ الذي ارتكبته لسنوات كان التوقف عند الخوف. اترك شخصًا خائفًا بلا شيء يفعله فيصنف الموضوع تحت "كبير جدًا على التفكير فيه" ويعود إلى أمسيته. اقض الدقيقة الأخيرة على الجزء الذي يغفله الناس.
هذا يمكن منعه.
لا يوجد قانون طبيعي يفرض بناء الذكاء الفائق هذا العقد أو بناءه أصلا. عدد قليل من الشركات يختار بناءه وعدد قليل من الحكومات يختار السماح لها بذلك. يمكن التراجع عن الخيارات. ما تطلبه المؤسسة هو اتفاق بين القوى الكبرى لحظر بناء الذكاء الفائق بشكل دائم. لا يمكن للبشر السيطرة على الذكاء الفائق. تمتلك البشرية فعلنا هذا من قبل, ، مع أسلحة أرادها كل طرف ولم يستطع أي طرف استخدامها بأمان. معاهدة بين الخصوم أقل خيالاً مما يبدو للوهلة الأولى.
يقف بيننا وبينه قرار لا يزال بإمكان الناس اتخاذه.
خمس دقائق
- ليس الأمر الدردشة الآلية. الهدف الذي أعلنته هذه الشركات صراحة هو آلة أذكى منا في كل شيء، ويتوقعون ذلك في غضون سنوات.
- لا أحد يعرف كيفية السيطرة على شيء أذكى منا. القدرة تتفوق على السيطرة، وتلك الفجوة هي الخطر.
- الذكاء هو ما وضع البشر في الصدارة. بناء شيء فوقنا، وأهدافه، لا أهدافنا، هي التي تحدد الشروط.
- "أوقفها" و"هذا خيال علمي" كلاهما يفترض أننا نبقى مسيطرين. القلق كله هو أننا لن نكون كذلك.
- يمكن منعه. يُبنى الذكاء الفائق / الذكاء الخارق باختيار، ويمكن رفض هذا الاختيار، معاً، طالما لا يزال الوقت متاحاً.
خمس دقائق مع شخص ما على استعداد للاستماع هو للقيادة الناس لسؤال، "انتظر، لماذا أي شخص بناء ذلك؟"