النقطة الحرجة، في الفيزياء، هي نقطة تنفجر عندها كمية ما وتتوقف المعادلات التي تستخدمها عن إعطاء إجابات منطقية. مركز الثقب الأسود هو المثال المعتاد. استعر الكلمة للتقنية فتحصل على النقطة الحرجة التقنية: نقطة مفترضة يقود عندها الذكاء الآلي التغيير بسرعة وعمق يجعلان قدرتنا على التنبؤ أو حتى فهم ما يأتي بعد ذلك تنهار.
إنه ادعاء يتعلق بأفق تتجاوز بعده سرعة التقدم المدفوع بالذكاء قدرة الفهم البشري، وليس ادعاء بوصول أداة محددة.
من أين تأتي الفكرة
النسب يستحق المعرفة، لأن المصطلح يستخدم بشكل فضفاض. تمت إعادة صياغة عالم الرياضيات جون فون نيومان في الخمسينيات وهو يتأمل أن التقدم التكنولوجي كان يقترب من بعض التفرد الأساسي في التاريخ. وفي عام 1965 وصف آي. جيه. غود الـ انفجار الذكاء, ، الآلية التي تعتمد عليها معظم نسخ الفرادة. أعطى مؤلف الخيال العلمي والرياضي فيرنور فينج الفكرة الحديثة اسمها وقوتها في مقالة عام ١٩٩٣، محاججاً بأن خلق ذكاء يفوق الذكاء البشري سيمزق نسيج التاريخ القابل للتنبؤ. ثم روج المخترع راي كورزويل للفكرة أمام جمهور واسع، واضعاً الفرادة حوالي عام ٢٠٤٥ ومدمجاً قصة أوسع عن الاتجاهات التقنية الأسية.
تلك ادعاءات مختلفة ترتدي كلمة واحدة، وهذا جزء من سبب جذب التفرد كلاً من الإخلاص ورفع العينين.
المحرك الكامن
اخلع النكهات والآلية الأساسية بسيطة إذا كنت تستطيع بناء آلة أفضل من البشر في آلات البناء، بما في ذلك في تحسين ذكائه الخاص، ثم يتغذى التحسين على نفسه. وكل نظام أذكى أفضل في إنتاج النظام التالي، ومعدل التقدم يرتفع بدلا من أن يظل ثابتا. ويمكن أن تنهض هذه الحلقة والقدرة من مستوى الإنسان إلى أبعد من ذلك بكثير في وقت قصير.
انفجار الذكاء هو المضمون الحقيقي وراء معظم الاستخدامات الجادة لفكرة التفرد. ويترتب على ذلك توقع عدم القابلية للتوقع: فبمجرد أن تبدأ الأنظمة في تحسين نفسها بسرعة الآلة، يخرج المسار عن النطاق الذي يعمل فيه التنبؤ البشري. ونعالج هذه الآلية بالتفصيل في شرحه الخاص, وهو حيث يعيش الجوهر.
الانتقادات
- قد يصطدم التحسين الذاتي بحدود صارمة. قد يواجه الذكاء عوائد متناقصة أو اختناقات بيانات أو قيود فيزيائية تُسطح المنحنى إلى صعود ثابت بدلاً من انفجار.
- المفهوم غامض. يقصد المدافعون عنه أشياء مختلفة، والنسخ الأكثر طموحاً على طراز كورزويل تربط بين تحديد تواريخ واثقة ونبرة شبه صوفية تدعو إلى التشكيك.
- تنحني الاتجاهات الأسية. غالباً ما تتبين المنحنيات التي تبدو متفجرة أنها الجزء المبكر من شكل S الذي يستوي.
هذه أمور معقولة، ولا يتطلب أي منها أن تكون الفرادة خاطئة بقدر ما تكون غير مؤكدة. الخطأ هو التعامل مع الشك في حدث درامي له اسم كأنه يذيب الخطر الكامن.
لماذا التسمية أقل أهمية من الآلية
يمكنك رفض كلمة التفرد كليًا، برائحتها النبوية وتواريخها الدقيقة، ويبقى لديك الجزء المهم للسياسة. السؤال الجاد هو ما إذا كان ذكاء الآلة قد يتحسن بسرعة كافية تجعل الانتقال إلى أنظمة تفوقنا بكثير يحدث أسرع مما نستطيع الإشراف عليه أو حكمه، لا ما إذا كانت هناك لحظة صوفية في 2045. ذلك ادعاء عن الجداول الزمنية وسرعة الإقلاع، ولا يحتاج إلى الإطار الكبير ليكون مقلقاً.
احذف الكلمة إن أردت. المشكلة التي تشير إليها، وهي انتقال سريع جداً بحيث لا يمكن توجيهه، لا تحتاج إلى الكلمة لتكون حقيقية.
قلق المؤسسة هو تلك النسخة المُنحرفة إذا كان الركض إلى الإنسان الخارق إلى حد كبير يمكن أن يكون سريع، ثم الوقت الموثوق الوحيد بناء الحكم والتحكم قبل أن يبدأ، في حين لا يزال البشر هم الذين يقررون. The الضغط التنافسي للوصول إلى تلك العتبة أولاً يقصر الطريق سواء كنت تسمي الجانب البعيد مفردا، الرد هو نفسه.
يجب ألا يحدث التفرد أبدًا
موقف المؤسسة هو الحظر، لا التنبؤ. لا يمكن للبشر السيطرة على الذكاء الفائق. الأفق الذي تسميه هذه الكلمة هو انطلاقة تتجاوز النقطة التي ما زلنا نقرر فيها. إنه نفس العبور كـ بناء الذكاء الفائق. لا يجب أن يحدث التفرد أبدًا.