الناس يستعملون الذكاء الاصطناعي العام. و الذكاء الفائق كما لو كانوا مرادفات أو أسماء تجارية أو إضاءة مزاجية التمييز يهم لأن مشكلة التحكم وأدوات السياسة العامة تتغير عندما تتسلق السلم، ولأن المختبرات لديها حوافز لتبدو قريبة من "الذكاء الاصطناعي العام." للتمويل بينما تبدو بعيدة عن خطر التنظيم.

تعريفات بسيطة

الذكاء الاصطناعي الضيق مصمم لمهمة محددة: توصية الفيديوهات، طي البروتينات، اكتشاف الأورام. يمكن أن يكون ممتازاً ومع ذلك ليس وكيلاً عاماً.

الذكاء الاصطناعي العام يعني الذكاء الاصطناعي العام الكفاءة الواسعة والمرنة عبر العديد من المهام على مستوى بشري تقريبًا، مع ما يكفي من الوكالة لمتابعة الأهداف بدلاً من الإجابة على الاستفسارات فقط. تختلف التعريفات، لكن الفكرة الأساسية هي العمومية بالإضافة إلى الاستقلالية القابلة للاستخدام.

الذكاء الفائق (الذكاء الفائق الاصطناعي) يعني أداءً معرفياً يتفوق جوهرياً على البشر في معظم المجالات التي تهم العلم والاستراتيجية والقوة. ليس «الذكاء الاصطناعي العام زائد عشرة في المئة». إنه انقطاع نوعي في من يستطيع التخطيط على من.

سلم، لا سلتين

فكر بدرجات. نماذج الحدود الحالية واسعة لكن غير متساوية، وتعتمد بشدة على السقالات البشرية، وتتحسن بسرعة. ويمكن للأكداس الوكيلية (الأدوات، الذاكرة، حلقات التخطيط) أن تجعل النموذج الأساسي يتصرف باستقلالية أكبر بكثير مما يوحي به صندوق الدردشة. وتشكل وكالة من فئة الذكاء الاصطناعي العام مشكلة سيطرة ومجتمعية شديدة بالفعل إذا كانت غير متوافقة. والذكاء الفائق ميزة حاسمة: علم أسرع، استراتيجية أفضل، استغلال أفضل للتحيز البشري، إيقاف أصعب.

الذكاء الفائق / الذكاء الخارق في مجال معين خبر قديم. يمكن لنظام أن يهزم البشر في الشطرنج أو طي البروتين ويظل ضيقاً. الذكاء الفائق / الذكاء الخارق الاستراتيجي عبر المجالات هو الدرجة التي يوجد هذا الموقع لمنعها.

لماذا "سنتوقف عند الذكاء الاصطناعي العام" غير مستقر

افترض أن مختبرًا وصل إلى أنظمة عامة قابلة للتحكم بمستوى بشري. فالضغط للدفع إلى الأبعد لا يختفي. فالميزة العسكرية والتفوق التجاري والهيبة كلها تشير صعودًا على السلم. وديناميكيات السباق تكافئ الأقل حذرًا. قصة السباق غالباً ما يُستخدم لتبرير السرعة؛ ولا يبرر السيطرة.

القياس بدون تسويق

تنخفض المعايير المرجعية؛ وترتفع البيانات الصحفية. تحاول تقييمات القدرات الخطرة قياس الهجوم السيبراني، والمساعدة البيولوجية، والتكرار الذاتي، والإقناع في ظروف محكومة. إنها تساعد. لكنها ليست حالة أمان كاملة، خاصة إذا استطاع نظام أن كيس الرمل. يجب أن تعتمد السياسة على الحوسبة واختبارات القدرات والاستقلالية، لا على ما تسميه الشركات المنتج.

الأساطير التي تضيع الوقت

لا يحتاج الذكاء الاصطناعي العام إلى جسم روبوتي. فالأدوات البعيدة والآلات الموجودة تحرك العالم المادي. الوعي سؤال منفصل عن القدرة والسيطرة. "مستوى الإنسان" ليس رقماً واحداً: فالشخص المتوسط والفريق المتخصص وأفضل ما تملكه المؤسسات البشرية عتبات مختلفة. يتعلق الذكاء الاصطناعي العام المهم للسلامة بالوكالة العامة لحل المشكلات تحت الحوافز الحقيقية، لا بنتيجة اختبار واحد.

ما ينتقل إلى القانون

إذا قصر القانون القيود على الأنظمة الموسومة بـالذكاء الاصطناعي العام أو الذكاء الفائق، فستعيد الشركات تسميتها. المحفزات الجيدة تشغيلية: حجم جولة التدريب، استقلالية الأدوات، نتائج القدرات الخطرة، إصدار الأوزان المفتوحة للنماذج العامة المتقدمة. يجب أن يستمر الذكاء الاصطناعي الضيق الذي يبقى أداة. الخط الذي ترسمه هذه المؤسسة هو الذكاء الفائق الاصطناعي والبرامج الموجهة إليه.

كيف تقوله في دقيقة واحدة

أدوات الذكاء الاصطناعي العام.: human-level general agency, already a serious control problem if autonomous and misarange. إلتقاط الآلة الذي يتفوق علينا عبر اللوحة ويمكننا أن نحتفظ بالأدوات وألا نبني العقل السيادي. التجسس لا يمكن السيطرة عليه