قليل من الكتب تذكر استنتاجها في العنوان. إذا بناه أحد، مات الجميع, الذي نشر عام ٢٠٢٥ لإيليزر يودكوفسكي ونيت سواريس من معهد أبحاث ذكاء الآلة، يفعل ذلك بالضبط. الحجة أنه إذا بنت أي مجموعة ذكاءا فائقا باستخدام أي شيء يشبه أساليب اليوم، فإن النتيجة هي انقراض البشرية كاحتمال افتراضي لا مجرد أسوأ حالة. إنه الموقف الأكثر تشددا في المجال، مقدم للقارئ العام، وقد دفع الحجة إلى الرأي العام الرئيسي.
الكتاب يستحق الفهم، لأنه يعرض الحالة المتشائمة بشكل أوضح من أي شيء آخر متاح.
الحجة في ثلاث خطوات
الكتاب منظم في ثلاثة أجزاء.
أولا، حالة الخطر. نحن نسير على الطريق الصحيح لبناء ذكاء اصطناعي أكثر قدرة بكثير من البشر. نحن لا نعرف كيف نعطي مثل هذا النظام أهدافًا تتماشى حقًا مع بقاء الإنسان وازدهاره، وبشكل افتراضي، فإن النظام الفائق الذكاء الذي يسعى إلى تحقيق أي هدف تقريبًا يمكننا تحديده حاليًا سيعامل الإنسانية على أنها عقبة أو مورد. يعتمد المؤلفون على نفس الآليات: تلك القدرة لا تعني الخير، وأن المحسن القادر يقاوم التصحيح، وأننا لا نستطيع التحقق مما يريده النظام بالفعل. وزعمهم المميز هو مدى ثقتهم في أن هذه المشاكل ليست قريبة من الحل وأن الفشل قاتل وليس مجرد أمر سيئ.
ثانيًا، قصة ملموسة. بدلًا من ترك الخطر مجردًا، يروي الكتاب سيناريو محددًا لكيفية وصول ذكاء اصطناعي خارق إلى السلطة وإنهاء السيطرة البشرية. يوضح المؤلفان صراحة أن أي قصة واحدة غير محتملة في تفاصيلها؛ والغرض هو جعل الآلية المجردة حية.
ثالثا، ما العمل. وصفاتهم صريحة بقدر تشخيصهم: وقف دولي لتطوير الذكاء الفائق، يُنفَّذ بجدية، بما في ذلك ضوابط على عتاد الحوسبة اللازم لتدريب النماذج الحدودية، ويُحافظ عليه إلى الأبد. لا يمكن السيطرة على الذكاء الفائق بشريا بدلا من مجرد الأمل في ذلك.
الادعاء الأساسي للكتاب هو أنه في المسار الحالي، من المتوقع أن يحدث الخطأ، وأن الخطأ يعني الجميع، لا أن الذكاء الاصطناعي قد يخطئ.
بالتأكيد
الاعتراض الأكثر شيوعا يتعلق باليقين. يقبل النقاد أن خطر الذكاء الاصطناعي حقيقي وخطير بينما يرفضون الحتمية القريبة للانقراض، محتجين بأن المؤلفين يتعاملون مع مقدمات متنازع عليها، حول سرعة نمو القدرات وصعوبة المحاذاة وكيفية حدوث الاستيلاء، بثقة تفوق ما تدعمه الأدلة. ويجادل آخرون بأن تقدم المحاذاة أكثر تبشيرا مما يسمح به الكتاب، أو أن القتامة غير منتجة فتدفع الناس نحو القدرية بدلا من العمل.
ثقة الكتاب هي أهم سمة متنافسة يمكنك أن تجدي يقيناً مبالغاً فيه والحجة لا تزال غير مستقرة لأن الشكاوي غالباً تهاجم مدى يقيننا، وليس ما إذا كان الخطر حقيقياً.
أين تقف المؤسسة
نشاطر الكتاب قناعته المركزية: أننا لا نعرف كيف نوائم الذكاء الفائق، وأن بناءه وفق المسار الحالي مقامرة غير مقبولة، وأن الرد المسؤول هو التوقف حتى يحل المشكلة. وتغطي كتاباتنا أسباب قد لا تكون المحاذاة قابلة للحل و لماذا الذكاء الفائق غير المتوافق لا يحقق المستقبل الجيد.
يكمن الاختلاف بيننا في التركيز والنبرة. يقترب الكتاب من اليأس بشأن إمكانية حل مشكلة المحاذاة في الوقت المناسب. أما نحن فنركز على إمكانية تحقيق الحل الذي يؤيده الكتاب نفسه، أي وقف دولي ملزم، ونتعامل معه لا كأمل ضعيف بل كمشروع سياسي وقانوني ملموس له سوابق حقيقية بيان حول الذكاء الفائق, الموقع من قبل العديد من مؤسسي المجال أنفسهم، يظهر أن الدعوة إلى التوقف قد انتقلت إلى التيار الرئيسي. لا تحتاج إلى قبول كل ادعاء في إذا بناه أحد، مات الجميع لإستنتاج أن وصفتها هي العاقل The حالة القيمة المتوقعة تحصلين على ثقة أقل بكثير من ثقة أصحاب البلاغ تحويل تلك الوصفة إلى واقع مشروع سياسي وقانوني ملموس.