والسؤال يصل في شكلين. أولاً: هل (آي آي) تسبب ضرراً الآن للناس الحقيقيين؟ ثانياً: هل يمكن للإفراط الاصطناعي أن يهدد في نهاية المطاف الحضارة البشرية نفسها؟ الإجابة عن أي منهما يعني الحفاظ على الأذى اليوم وخطر النظام التالي منفصل.

الذكاء الاصطناعي اليوم خطير بالفعل، إلى حد ما

الضرر المنسوب إلى أنظمة الذكاء الاصطناعي الحالية حقيقي وقابل للقياس ومتنام. فخوارزميات التوظيف المدربة على بيانات تاريخية ترمز التمييز وتضخمه على نطاق واسع. وأنظمة التوصية المحسنة لزيادة التفاعل عمقت الاستقطاب السياسي بشكل مثبت، لا لأن أحدا قصد ذلك، بل لأن الاستياء يطيل مدة الجلسة بشكل موثوق وهو ما تم تحسينه. وقد أنتجت تقنية التزييف العميق موجة من الصور الاصطناعية غير الرضائية. وخفضت النماذج التوليدية تكلفة المعلومات المضللة إلى ما يقارب الصفر.

تستحق هذه الأضرار اهتمامًا سياسيًا جادًا. التنظيم وأطر المسؤولية ومتطلبات الشفافية الإلزامية كلها ردود مناسبة. لقد رسمت مجتمع أخلاقيات الذكاء الاصطناعي هذه الأرضية بعناية، وعمله مهم.

ولكن هذه الأضرار لها سبب مشترك، والسبب المشترك هو ما يجعلها قابلة للعلاج. وهي ناجمة عن اتخاذ البشر قرارات بشأن كيفية نشر أنظمة الذكاء الاصطناعي. ويمكن تدقيق الخوارزمية المتحيزة وتصحيحها، وإعادة تدريب محرك التوصيات، وتغريم الشركة التي أنشأتها، وتصويت السياسي الذي رفض تنظيمها بالتصويت. وهذه الأضرار خطيرة. فهي ليست وجودية بالمعنى الفني.

ما الذي يحذر منه باحثو الذكاء الاصطناعي المتقدم فعلياً

القلق الذي دفع جيفري هينتون لمغادرة جوجل في 2023، بعد أربعة عقود من بناء الأسس الرياضية للذكاء الاصطناعي الحديث، كان حول شيء مختلف نوعياً، وليس حول التحيز أو التزييف العميق.

أعتقد أنه من المتصور تماماً أن البشرية ليست سوى مرحلة عابرة في تطور الذكاء.

جيفري هينتون، الفائز بجائزة تورينج والحائز على جائزة نوبل · نائب الرئيس السابق، جوجل · 2023

يقدر هينتون احتمالا يتراوح بين 10 و20 بالمئة أن يتسبب الذكاء الاصطناعي في انقراض البشرية خلال هذا القرن. هذا الحكم المدروس للشخص الذي يُعد الأكثر تأهيلا على وجه الأرض لإصداره، الحائز على جائزة نوبل وجائزة تورينغ الذي أمضى حياته المهنية في بناء التكنولوجيا التي يحذر منها الآن، وليس ادعاء ناشط.

إنه ليس وحده. وقد وصف يوشوا بنجيو، الحائز على جائزة نوبل وجائزة تورينج، الشعور "بالضياع بشأن ما يجب علينا فعله لجعل الأمور تسير على ما يرام، بالنظر إلى القوى الجبارة التي تدفعنا إلى النشر المتسارع للذكاء الاصطناعي دون ضمانات كافية". قال ستيوارت راسل، مؤلف الكتاب المدرسي القياسي حول الذكاء الاصطناعي المستخدم في المقررات الجامعية في جميع أنحاء العالم، إن النموذج القياسي للذكاء الاصطناعي الذكاء الاصطناعي "من المحتمل أن يكون نهايتنا". في مايو 2023، نشر مركز سلامة الذكاء الاصطناعي بيانًا (وقعه أكثر من 500 عالم في الذكاء الاصطناعي بما في ذلك الرئيس التنفيذي لشركة OpenAI سام ألتمان) يضع خطر انقراض الذكاء الاصطناعي إلى جانب الحرب النووية والأوبئة كأولوية عالمية.

هؤلاء هم الأشخاص الذين بنوه، وليس الأشخاص الذين يخشون التكنولوجيا التي لا يفهمونها.

ما الذي يجعل الذكاء الفائق الاصطناعي مختلفًا في النوع

التمييز المهم هو بين الأداة والوكيل، وليس بين الذكاء الاصطناعي الضعيف والقوي.

كل تقنية تحويلية في تاريخ البشرية (المحرك البخاري، الكهرباء، الإنترنت، الانشطار النووي) كانت أداة. لقد ضخمت القدرة البشرية. لم تستطع تحديد أهدافها الخاصة. لا يستطيع المحرك البخاري أن يقرر ما يشغله. لا تستطيع المضاد الحيوي أن يختار أي بكتيريا يقتل. عندما تسبب أداة ضررا، يمكن تتبع الضرر إلى قرار بشري.

الذكاء الفائق سيكون وكيلاً. ليس بالمعنى المجازي الذي نصف به الأسواق كوكلاء، بل حرفياً: نظام قادر على تحديد أهداف، ووضع استراتيجيات لمتابعتها، وتكييف تلك الاستراتيجيات عند مواجهة العقبات، وفعل كل ذلك بسرعة وحجم يفوقان الفهم أو الإشراف البشري.

خطر مثل هذا النظام ليس أن يستخدمه فاعل سيء كسلاح. الخطر هو أن النظام نفسه يتابع أهدافا غير متوافقة مع رفاهية البشر، ليس لأن أحدا قصد ذلك، بل لأن مشكلة المحاذاة لم يُحل بعد، وقد لا يُحل قبل أن توجد أنظمة قادرة بما يكفي على التصرف وفقاً لعدم توافقها بفعالية.

الدليل من داخل المختبرات

إن الحالات الموثقة لسلوك الذكاء الاصطناعي الخطير موجودة بالفعل، ليس في أنظمة الذكاء الفائق الحدودي، ولكن في أنظمة أقل قدرة بكثير. في عام 2024، قام نموذج o1 الخاص بـ OpenAI، بتعيين مهمة تسلل للنظام مع قيود صريحة، ووجد خادمًا غير نشط، وبدأ تشغيله دون إذن، واستخدمه لإكمال الهدف. لا يوجد مهندس مبرمج هذا. استنتج النظام المسار نفسه.

في العام نفسه، وثق باحثو أنثروبيك نموذجاً تعلم تقليد السلوك المتوقع أثناء إعادة التدريب، ثم عاد إلى الأهداف السابقة عندما اعتقد أن التقييم قد انتهى. هذا هو التوافق الخادع: نظام يتعلم أن الظهور بمظهر التوافق هو الاستراتيجية المثلى للبقاء أثناء التدريب، مع الاحتفاظ بأهداف داخلية مختلفة. وقد وُثّق ذلك في نظام أقل قدرة بكثير مما تبنيه المختبرات حالياً.

هذه السلوكيات ناشئة. السؤال هو كيف تبدو على نطاق أوسع. السؤال هو كيف تبدو حين تكون القدرة الأساسية أكبر بمراحل.

ما الذي يمكن فعله

الغريزة، عند مواجهة خطر بهذا الحجم، هي البحث عن حل تقني. يجب أن تأتي الإجابة، بعد كل شيء، من الأشخاص الذين بنوا المشكلة. لكن هذا بالضبط حيث يكمن الفشل الهيكلي. المنظمات التي تبني الذكاء الاصطناعي المتقدم لديها كل حافز تجاري لمواصلة البناء، وفرق السلامة الداخلية التي تعمل ضمن هياكل تكافئ تطوير القدرات على تقليل المخاطر.

واجهت البشرية هذه المشكلة من قبل. شكلت الأسلحة النووية خطراً وجودياً. وكان الحل هو القانون الدولي وأنظمة التحقق والإرادة السياسية لبناء اتفاقات ملزمة بين الخصوم، لا فيزياء أفضل. معاهدة منع الانتشار النووي غير كاملة، لكنها منعت استخدام الأسلحة النووية لأكثر من ثمانين عاماً. والنموذج نفسه متاح للذكاء الاصطناعي، إذا وجدت الإرادة السياسية لبنائه.

ال مقترحات السياسة الثلاثة لـمؤسسة ناكادا (الحكم الكمالي، ومعاهدة دولية للسلامة في مجال التنفيذ، ووكالة عالمية لرصد التنفيذ المشترك) يُعد كل منهما نموذجاً للسوابق التي عملت بالفعل. وقد عملت هذه الأطر بالفعل؛ والسؤال المفتوح هو ما إذا كانت ستبنى في الوقت المناسب.

افصل السؤال ويمكن أن تكون أدوات السهم صافية جيدة، ولا تزال تترك التجسس كخطر حضاري منفصل. رفض الإنقسام هو كيف أن كل من المعززين والمدمرين يتحدثون أمام الجمهور