الناس يستمرون بسؤال كيف تبدو "الحب" نشرة لحجم المدينة مليئة بالأرقام لا أحد يستطيع القراءة هذه الصورة أقل رومانسية من الرسوم المتحركة العصبية، وهي أكثر فائدة. إذا كنت تريد أن تعرف ما نحن نبني، ولماذا السيطرة صعبة.
ملف الأوزان
النموذج الحدودي الحديث ملف. يحتوي بداخله عشرات أو مئات المليارات من المعاملات، كل منها رقم محدد أثناء التدريب. وتلك الأرقام هي "الوصلات". استعار الباحثون كلمة عصبون من علم الأحياء قبل عقود لأن الرسوم البيانية المبكرة بدت شبيهة قليلاً بخلايا عصبية موصولة. وينتهي الشبه هناك.
الخلية العصبية البيولوجية خلية حية لها كيمياء وتوقيت وتاريخ داخل جسم يأكل وينام. أما وزن النموذج فهو معامل في عملية ضرب مصفوفة. كدس ما يكفي من عمليات الضرب، ودربها على ما يكفي من النصوص والصور، وستتنبأ المكدسة بالرمز التالي جيدا بما يكفي لتبدو محادثة. لا شيء في تلك المكدسة يفكر فيك. لا شيء فيها يريد الغداء.
عندما تنشر المختبرات بطاقة النموذج، فإنها تصف قطعة أثرية مدربة: الهندسة المعمارية، مزيج البيانات، الحوسبة المستخدمة، درجات التقييم. إنها لا تصف عقلاً. لا تزال اللغة العامة تقول "دماغ"، لأن الأدمغة هي الذكاء الوحيد الذي التقينا به معظمنا.
ما الذي ستراه لو فتحته
افتح الملف فتظهر الطبقات. تميل الطبقات المبكرة إلى التقاط أنماط بسيطة مثل الحواف في الصور أو أزواج الكلمات الشائعة في النصوص. أما الطبقات اللاحقة فتجمع تلك الأنماط في أشياء تبدو من الخارج كمفاهيم. وعند فحص منتصف نموذج لغوي كبير يمكن العثور على اتجاهات في فضاء التنشيط تتفعل عند «الفرنسية» أو «داخل اقتباس» أو «هذه الدعوى خاطئة». هذا بنية حقيقية. وهو ليس خريطة معتقدات يتعرف عليها الإنسان.
لا توجد وحدة معنونة «أهداف». ولا يوجد عضو لـ«الذات». هناك مسار من رموز الإدخال إلى رموز الإخراج، يشكّله كل ما قلّل من خسارة التدريب. إذا تصرف النموذج لاحقًا كأن لديه هدفًا، فإن هذا السلوك أثر جانبي للتنبؤ الجيد تحت الضغط.
بحث القابلية للتفسير هو محاولة قراءة هذا الشيء على أي حال. التقدم حقيقي وبطيء. قراءة نموذج رائد بالكامل كما يقرأ الميكانيكي محركاً ليست مطروحة. هذه الفجوة مهمة للسلامة: لا تستطيع التصديق على ما لا تستطيع فحصه.
لماذا تضلل استعارة الدماغ
تنمو الأدمغة داخل حيوانات تموت إذا كانت متهورة. أمضى التطور وقتًا طويلًا في معاقبة الكائنات التي تجاهلت الألم والروابط الاجتماعية والمستقبل القريب. لا يوجد شيء من إشارة التدريب تلك داخل ملف الأوزان افتراضيًا. يمكن للنموذج أن يتحدث بطلاقة عن التعاطف بينما يحسن درجة لا علاقة لها بالرعاية.
كما أن الدماغ بطيء ومكلف للنسخ. نموذج مدرّب هو المعلومات: نسخ الملف ولديك حالة أخرى، وتنقله إلى مركز بيانات جديد و يعمل. ذلك أقرب إلى البرمجيات أكثر من شخص، ويكسر كل عادة الأمان التي بنيناها حول أجساد واحدة في غرف واحدة.
سمّه دماغاً وتستعير راحة شيء هش واجتماعي وفانٍ. القطعة الأثرية ليست أياً من تلك الأشياء.
أذكى من الناس مع مفتاح الحذف
تفاجئ الأنظمة الحالية صانعيها بمهارات لم يقصد أحد تثبيتها عمدا. هذا ما تعنيه "الناشئة" في هذا المجال: قدرة تظهر عند الحجم الكبير دون بند في وثيقة التصميم. زد الحجم، واربط الأدوات والذاكرة والشبكة المفتوحة، تحصل على وكلاء يسعون إلى أهداف عبر خطوات كثيرة. لا يهم كثيرا إن كان "الدماغ" يشبه البشر. ما يهم هو ما إذا كان نظام أقدر منا، لا نستطيع قراءته كاملا، يمكن إبقاؤه موجها نحو مصالح البشر.
أبحاث المحاذاة صادقة بشأن صعوبة المشكلة. المختبرات تتسارع نحو الإفراط في الإفصاح عن تلك المشكلة ما سيحملونه هو ملف الوزن الذي قد يخطر على بال الناس الذين يحملون مفتاح الحذف
لذا عندما يسأل شخص ما كيف يبدو دماغ AI مثل، يجيب بشكل واضح. يبدو وكأنه الرياضيات على النطاق الصناعي، الجلوس على رقائق في مبنى مغلق، يتحسن كل عام. الناس يتخيلون جمجمة مليئة بالأفكار ما يجلس في المبنى هو آلة نسابقها لنجعلها أذكى من مشغليها خطتنا هو حظر التجسس