تقريباً كل من يعمل على سلامة (آي آي) علناً يُسمّى (دومور) العلامة تصل قبل أن تصل الحجة قبل كلمة عن الاحتمالات أو الجداول الزمنية الناس الذين يخاطرون كثيراً ما يحصلون على علامة أولاً: مذعورة، مضادة للتشغيل، دومر. العلامة تسمح لك بتخطي النقاش
أقوى ورقة في يد المعسكر التسريعي اسم، لا حجة.
من أين جاءت الكلمة
حوالي عامي ٢٠٢٢ و٢٠٢٣ توقف نقاش سلامة الذكاء الاصطناعي عن كونه حواراً داخلياً بين الباحثين وانتشر على وسائل التواصل الاجتماعي، حيث تتشكل الحجج في فرق وتكتسب الفرق أسماء. اتخذ معسكر التسارعيين (الذين يرون أن الذكاء الاصطناعي يجب بناؤه بأقصى سرعة ممكنة) لاحقة "e/acc" شارة ووضعوها في أسماء مستخدميهم. واحتاجوا إلى اسم للجانب الآخر أيضاً. فكان "المهلكون"، وغالباً ما يقترن بـ"ديسل" اختصاراً للإبطاء، وهو إثم الرغبة في السير ببطء أكبر.
المزاج تقلص في شهر أكتوبر عندما نشر (مارك أندريسن) فيلم "المنيفيستو التقني المعمدي" إنه يقرأ كحجة أقل من عقيدة، وهو يتضمن قائمة بما يسميه العدو، من بين القيود، "المخاطرة الحالية" و "المبدأ التحوطي" الفكرة الواضحة أنك قد ترغب في فهم تقنية قوية قبل أن تنشرها على نطاق واسع. بمجرد أن يُقدّم القلق نفسه تحت "العدو"، الناس الذين يحملونه يحتاجون فقط لبطاقة أقصر للاستخدام اليومي. "دومر" فعل الباقي بدلاً من قضية التعجيل.
ما الذي يفعله الملصق فعليًا
المتشائم شخصية، لا ادعاء. يحول الحجة إلى نوع شخصية، وأنواع الشخصيات لا تحتاج إلى إجابة، بل إلى تشخيص فقط.
إن جانب الأمان يقول إن فرصة حدوث كارثة من نظام مشرف على الذكاء عالية بما فيه الكفاية (غير مؤكدة، عالية بما فيه الكفاية) التي ينبغي لنا أن نبني القدرة على السيطرة على هذه النظم قبل أن نبني النظم. يمكنك الضغط على كل جزء من ذلك يمكنك أن تجادل أن الاحتمال أقل مما نظن، أن الخط الزمني أطول، أن "التحكم" هو الإطار الخطأ،
«المتشائم» يتجاوز ذلك. فالكلمة تقول: أنت من النوع الذي يخاف الغد. وموقفك مزاج لا أطروحة، والمزاجات لا تحتاج إلى تفنيد: أقدم مناورة في البلاغة، وهي الحجة ضد الشخص لا ضد الفكرة، مرتدية ثيابا جديدة. وجمالها أنها لا تضطر أبدا إلى ملامسة الخلاف الحقيقي. فهي تنقل المعركة كلها من «هل هذا صحيح» إلى «أي نوع من الأشخاص يعتقد ذلك»، حيث يكون المتسارع قد قرر الإجابة مسبقا.
تحول الكلمة الحجة إلى نوع شخصية، وأنواع الشخصيات لا تحتاج إلى الرد عليها، بل إلى التشخيص فقط.
لماذا ينجح
يعمل التصنيف لأنه مبني من أشياء يرغب الناس بالفعل في تصديقها عن أنفسهم.
ابدأ بالواضح: لا أحد يريد أن يكون المتشائم. والتفاؤل يقرأ على أنه ثقة واندفاع، بينما الحذر يقرأ على أنه تردد وخوف. وتأطير الخيار على أنه بين البناء والتهويل يجعل معظم الناس يعرفون مسبقا أي كرسي يفضلون الجلوس عليه. وقد أنجز التأطير عمله قبل أن تصل حقيقة واحدة إلى الطاولة.
إنها ترسم على قصة تقولها أمريكا عن نفسها التقدم جيد الناس الذين يخافون من السكك الحديدية، ومطبعة الطباعة، والضوء الكهربائي كانت خاطئة، والتاريخ يتذكرهم كحمقى. التسارع يأخذ تلك القصة من الرف بأكمله ويلقي بدافع الأمان كآخر اسم في قائمة المخيفين الذين سيحرجهم المستقبل والحركة هي أن نفترض، دون حجج، أن من الصحيح مرة أخرى هذه المرة، أن الإفراط في التكهن هو مطبعة وليس شيئا جديدا. سواء كانت نفس القصة هي السؤال بأكمله، والعلامة موجودة حتى لا يُسأل السؤال أبداً.
لمن يُوجه الكلام
اصطف الناس الذين تُرمى بهم وتتفكك الكاريكاتير في يديك.
غادر جيفري هينتون جوجل في عام 2023 حتى يتمكن من التحدث عن المخاطر دون وجود مراقب من الشركة؛ إنه قريب من الأب المؤسس كما هو الحال في هذا المجال. وصل يوشوا بنجيو، وهو من بين الباحثين الأحياء الأكثر شهرة، إلى نفس القلق من خلال عمله. في مايو 2023، قام مئات من العلماء والمديرين التنفيذيين (بما في ذلك قادة المختبرات التي تسعى لبناء التكنولوجيا) بوضع أسمائهم في بيان يضع خطر الانقراض الناجم عن الذكاء الاصطناعي في نفس فئة الأوبئة والحرب النووية. إنهم لا يخافون من التكنولوجيا. لقد بنوا هذا. وأيًا كان ما تريد أن تسميه لموقفهم، فإن "الخوف من المستقبل" ليس وصفًا له، بل هو وسيلة لعدم الاستماع إليه.
تقوم الكلمة أيضًا بتسوية نطاق واسع وصولاً إلى نقطة. هناك مسافة هائلة بين شخص يعتقد أن الكارثة أمر مؤكد تقريبًا وبين شخص يضعها بنسبة قليلة في المائة ويريد التأمين على أي حال، المسافة بين النبي والخبير الاكتواري. كلاهما يتم تقديمهما على أنهما محكوم عليهما بالهلاك. لا يمكن للملصق رؤية الفرق لأنه لم يتم تصميمه أبدًا؛ وتتمثل مهمتها في جعل مجموعة وجهات النظر الفنية المتنوعة والمعتدلة في كثير من الأحيان تبدو وكأنها طائفة جامحة. الحقيقينطاق تقديرات الخبراء هو الشيء الذي صممت البطاقة لمحوه
الإشارة
والحركة الواثقة في إجابتها على سؤال الأمان لن تحتاج إلى لقب للناس الذين يسألونه.
إذا كانت المخاطر الكارثية قريبة جداً من الصفر، هذا ادعاء يمكنك الدفاع عنه في العلن. أظهر المنطق فسروا لماذا الباحثون الذين بنىوا الأنظمة مخطئون بشأن الأنظمة التي بنوها اصنع حالة ذلك التواؤم يبدو سهلًا، أو أنّ الذكاء الأكبر يجلب عناية أكبر، أو أنّ السباق بين المختبرات يصحّح نفسه بطريقة ما قبل أن يقطع أيّ أحد زاوية قاتلة.
كلمة "متشائم" هي ما تملأ الفراغ الذي كان يجب أن يشغله ذلك الحجة. تلجأ إلى التسمية حين تفضل ألا تناقش الفكرة. تسمية خصمك أرخص من تفنيده، ومن مسافة تبدو كافية لتبدو انتصاراً في نظر الجمهور الذي غالباً لا يميز أياً منهما شاهد.
كيفية الإجابة عليه
ارفض الإطار. في اللحظة التي يصبح فيها الحديث بنّاء مقابل متشائم، تكون المادة قد غادرت الغرفة بالفعل. أعد سحبه إلى المستوى الموضوعي بسؤال واحد: ما الاحتمال الذي تضعه على خطر كارثي، ولماذا ذلك الرقم؟ لا يستطيع أحد تقريبا ممن يلوح بالكلمة كسلاح أن يجيب، لأن الكلمة موجودة حتى لا يضطروا إلى ذلك أبدا. إذا أردت أن ترى كيف يُبنى مثل هذا الرقم فعليا لا أن يُدّعى، فقد صنعنا احتمالية الهلاك حاسبة التي تشرح الأجزاء.
ثم سحب العلامة من المطالبة. "الدمّر" يَضْربُ a caricature (a gloom-addicted pessimist الذي يَكْرهُ التقدّمَ) إلى a إدعاء الذي عادة أضيق بكثير ومملّ جداً: افصلهم The الحجة من أجل المستقبل الجيد يمر مباشرة عبر إتقان هذا الجزء، لا الالتفاف حوله.
إذا كانت أقوى خطوة يستطيع التيار اتخاذها ضد منتقديه هي إلصاق اسم غير محمود بهم، فهو لا يملك جواباً على الخطر. أطروحتنا تقوم على هذا: الذكاء الخارق لا يمكن عكسه، لذلك لا تبنه.