في مطلع السبعينيات تعلم علماء الأحياء ربط جينات من كائن حي بآخر. ففتح الحمض النووي المؤتلف آفاق الطب والأحياء في آن، وأفزع مخترعيه أنفسهم. إذ لم يستطيعوا استبعاد احتمال هروب كائن معدل من المختبر وإحداث ضرر لا يُعرف كيف يُحتوى. ففعلوا ما ندر فعله: توقفوا.
في عام ١٩٧٤ دعا باحثون بارزون، بمن فيهم فائزون مستقبليون بجائزة نوبل، علنًا إلى وقف طوعي لأخطر تجارب الحمض النووي المؤتلف. وفي فبراير ١٩٧٥ اجتمع حوالي ١٤٠ عالمًا، إلى جانب محامين وصحفيين، في مركز مؤتمرات أسيلومار بكاليفورنيا لتحديد الشروط التي يمكن بها استئناف العمل بأمان. وخرجوا بإطار من تدابير الاحتواء المتناسبة مع المخاطر، واستؤنف البحث تحت ضمانات متفق عليها. بالنسبة للمدافعين عن وقف الذكاء الاصطناعي المتقدم، هذه هي النقطة المرجعية: مجال أدرك خطره واختار الحذر على السرعة.
ما حصل عليه أسيلومار بشكل صحيح حقاً
الإنجاز حقيقي ويستحق التصريح به بوضوح.
لقد تصرف العلماء قبل وقوع الكارثة وليس بعدها، وهو الأمر الأكثر ندرة والأكثر قيمة في تاريخ السلامة التكنولوجية بأكمله. لقد قبلوا بضبط النفس في عملهم، بما في ذلك الأبحاث التي وعدت بالشهرة والتقدم، لأن المخاطرة كانت تبرر ذلك. وقاموا ببناء قواعد عملية تتوافق مع مستوى الخطر، بدلاً من تجاهل الخطر أو حظر المجال بشكل كامل. إنه بمثابة دليل على أن مجتمع البحث يمكنه النظر إلى حدوده الخاصة، والحكم على أن التسرع أمر خطير للغاية، والتراجع. هذه السابقة هي دحض مباشر للادعاء بأنتمهيد التكنولوجيا القوية أمر ساذج أو مستحيل.
لماذا هو نموذج أصعب مما يبدو
الصدق بشأن السابقة يعني تسمية سبب كون الذكاء الاصطناعي حالة أصعب، لأن الاختلافات هي بالضبط ما جعل أسيلومار ينجح.
- كانت مجتمعاً صغيراً وموحداً. بضع عشرات من المختبرات، ثقافة علمية واحدة، أشخاص يعرفون بعضهم. الذكاء الاصطناعي الحدودي هو مسابقة عالمية بين الشركات والدول بقيمة تريليونات، بدون طاولة مشتركة.
- كانت المخاطر التجارية متواضعة في عام 1975. لم تكن صناعة التكنولوجيا الحيوية قد وجدت بعد. أما الذكاء الاصطناعي فيصل وأكبر شركات العالم وأجهزة الأمن القومي ملتزمة به بالفعل، وهذا هو ديناميكية السباق لم تواجهه أسيلومار قط.
- كان إعادة التشغيل هو الهدف. صمم أسيلومار لإيجاد شروط آمنة للاستمرار، لا للتوقف إلى أجل غير مسمى. افترض نموذج الاحتواء الخاص به إمكانية حصر الخطر في مختبر فيزيائي. الذكاء الاصطناعي القادر ليس من الواضح احتواؤه بهذه الطريقة.
هناك أيضًا خاتمة رصينة. فقد صمد إجماع أسيلومار جزئيًا لأنه جاء في لحظة ضيقة توافقت فيها الحوافز، وحتى ذلك اعتمد على حسن نية طوعي كان من شأن مجال أكثر تجارية وأشد تنافسية أن يرهقه. وما نجح بين 140 عالمًا متآلفًا لا يتوسع بسهولة إلى صناعة عالمية متشظية تحت ضغط شديد للفوز.
يثبت أسيلومار أن التوقف ممكن. كما يظهر الشروط التي يحتاجها التوقف، وكم قليل منها يمتلكه الذكاء الاصطناعي حالياً.
النوايا الحسنة الطوعية ليست كافية لـ (إيه آي)
(كلاهما من (آسيلومار إنها تدحض القتلة التي تقول لا شيء يمكن القيام به، أن التكنولوجيا القوية لا يمكن إبطاء. العلماء فعلوها عمداً ولم تسقط السماء غير أنه يبين أيضاً أن الآلية غير الرسمية والطوعية والجماعية التي عملت في عام 1975 ليست كافية للمبادرة، لأن منظمة العفو الدولية تفتقر إلى المجتمع الصغير، وإلى المخاطر التي يمكن احتواؤها والتي تجعل النوايا الحسنة كافية. والنتيجة الصحيحة هي أن منظمة العفو الدولية تحتاج إلى ما يمكن أن يحققه أسيلومار، وضبط النفس الحقيقي قبل الخطر، الذي يتم من خلال الآلية الدولية الملزمة التي يمكن التحقق منها والتي يتطلبها حدوث سباق عالمي يناهز تريليون دولار، وليس أن منظمة العفو الدولية تحتاج إلى أسيلومار.