لا يلزم أن تنتهي قصة البشرية في ليلة واحدة. يمكن أن تنتقل القرارات إلى أنظمة تحدد الأسعار والموافقات واللوجستيات والانتباه حتى تظل الانتخابات قائمة بينما يختفي التأليف. هذا الانزلاق هو الإضعاف التدريجي، وهو أهدأ من انقلاب وأسهل أن يُغفل وهو ينتصر.
في يناير ٢٠٢٥ نشر ستة باحثين ورقة بحثية تجادل بأن الحدث قد لا يحدث أبدا، وأن البشرية قد تُهمش بشكل دائم على أي حال. وتصف الورقة المعنونة «الإضعاف التدريجي: المخاطر الوجودية النظامية الناتجة عن تطوير الذكاء الاصطناعي التدريجي»، من تأليف يان كولفيت ورايموند دوغلاس ونورا أمان وديغر توران وديفيد كروغر وديفيد دوفينو، فشلا بلا شرير وبلا انفلات وبلا لحظة واضحة كان فيها إيقافه لا يزال ممكنا. وقد عُرضت لاحقا في مؤتمر ICML ٢٠٢٥ كورقة موقف، وهو دليل على مدى انتشار الحجة خارج مجتمع سلامة الذكاء الاصطناعي الذي تداولها أولا.
تستحق الورقة قراءة متأنية، لأنها تحدد فئة من المخاطر لا يُصمم معظم عمل السلامة، بما في ذلك معظم العمل الذي نشير إليه في هذا الموقع، لالتقاطها.
لماذا يخضع العالم حالياً للناس
تبدأ الحجة بسؤال أساسي نادرا ما يُطرح: لماذا تخدم الأنظمة الكبيرة المصالح البشرية أصلا؟ فالاقتصاد لا يشعر تجاهنا بشيء. وكذلك الدولة أو الثقافة. وإلى الحد الذي تخدم فيه الناس، فذلك لأنها تعمل بهم. فالاقتصادات تحتاج عمالا وزبائن. والدول تحتاج دافعي ضرائب وجنودا وإداريين وناخبين. والثقافات تحتاج عقولا بشرية لتصنعها وتحملها وتنقلها.
تمنح هذه التبعية الناس العاديين نوعين من السيطرة على الآلية. الأول صريح: التصويت والشراء والإضراب والدعاوى والاستقالات. والثاني أهدأ وربما أهم. فالنظام الذي يحتاج مشاركة البشر يجب أن يبقيهم قادرين وراغبين في المشاركة. ولديه مصلحة، مهما كانت غير شخصية، في أن نكون مغذين ومتعلمين وأصحاء وراضين على الأقل بدرجة دنيا. وتسمي الورقة هذا التوافق الضمني، وقد صمد، بشكل متفاوت لكنه مستمر، عبر كل تحول تقني حتى الآن.
آي يُزيلُ التبعيةَ. بمجرد أن تتمكن الآلات من القيام بالعمل، واتخاذ القرارات، وإنتاج المحتوى، ومحاربة الحروب، النظم التي لم تعد بحاجة لنا. ولا شيء في ذلك يتطلب من أي منظمة العفو الدولية أن تكون عدائية، أو حتى قادرة على التخطيط الطويل الأجل على وجه الخصوص. الأمر يتطلب فقط أن تكون منظمة العفو الدولية مفيدة بما فيه الكفاية أن تسليم الأشياء لا يزال يجعل من المنطق المحلي.
ثلاثة أنظمة، تنجرف في الاتجاه نفسه
تتتبع الورقة الآلية عبر ثلاثة مجالات، ويتكرر النمط في كل منها.
الاقتصاد
يأتي نفوذ البشر في الاقتصاد من كونهم مطلوبين كعمالة ومستهدفين كزبائن. ومع استيعاب الذكاء الاصطناعي للعمل المعرفي، يتقلص نصف الرافعة المتعلق بالعمل نحو الصفر. أما نصف الزبائن فيتآكل ببطء أكبر لكنه يتآكل أيضا: إذ يصبح جزء متزايد من النشاط الاقتصادي من آلة إلى آلة، وشركات تتاجر مع شركات، ونماذج تتفاوض مع نماذج، بينما يتقلص الاستهلاك البشري كجزء مما يحسنه النظام. ويتركز الدخل لدى من يملكون رأس مال الذكاء الاصطناعي. ويصغر تصويت الجميع الآخرين الاقتصادي.
الحالة
هنا يلجأ البحث إلى قياس تاريخي له أساس حقيقي: الدولة الريعية. فالحكومات الممولة من النفط بدلا من فرض الضرائب على المواطنين تكون في المتوسط أقل ديمقراطية وأقل استجابة بشكل ملموس. وتستطيع أن تكون كذلك. فالمواطنون ليسوا مصدر المال. والدولة التي تتدفق إيراداتها من صناعة مدفوعة بالذكاء الاصطناعي، وإدارتها مؤتمتة، وقواتها الأمنية لا تحتاج إلى أيد بشرية كثيرة، هي دولة ريعية بالنسبة إلى سكانها كلهم. ولا يلزم أن تصبح طغيانا. إنها ببساطة تتوقف عن امتلاك أسباب بنيوية للاهتمام بما يريده شعبها، والأسباب البنيوية هي التي تبقى حين ينفد حسن النية.
ثقافة
تبدو الثقافة الحالة اللينة، وتجادل الورقة بأنها قد تكون الأخطر. لطالما تطورت الأفكار والقصص والمعايير تحت ضغط الانتخاب، لكن الانتخاب كان يمر عبر عقول البشر: تنتشر الفكرة لأن الناس يجدونها جديرة بالتكرار. وعندما يولد معظم المحتوى ويُصفى ويُوصى به ويُستهلك بشكل متزايد بواسطة الآلات، تبدأ الأفكار بالتطور تحت ضغط مختلف، محسّن للانخراط أو الإقناع لا لخدمة البشر الذين يستضيفونها. الثقافة هي أيضا الطبقة التي نشكل فيها إحساسنا بما هو طبيعي وما يستحق الرغبة. إذا شكلت هذه الطبقة أنظمة لا مصلحة لها في ازدهار البشر، فقد نفقد القدرة حتى على الرغبة في مقاومة بقية الانجراف.
الحلقات التي تغلق المخارج
قد يُمسك بأي من هذه الاتجاهات ويُصحح. والنقطة الأكثر ظلاماً في الورقة هي أن المجالات الثلاثة تعزز بعضها بعضاً، فتصبح التصحيحات أصعب تماماً حين تصير أكثر ضرورة.
فالقوة الاقتصادية تشتري نفوذاً سياسياً، لذا يتحسن المستفيدون من التشغيل الآلي في سد القواعد التي من شأنها أن تبطئه. الدول المتنافسة من أجل النمو والميزة العسكرية عاصمة (آي آي) وتسريع عملية التسليم، لا توجد حكومة تريد مركز بيانات منافسيها وتطبيع الثقافة على شكل " AI " كل وفد جديد، ويجد الناس الذين يتجمعون على نحو آلي كل شيء صعوبة في تصوير بديل. كل نظام يزيل المكابح على الآخرين هذا هو نفسه فخ هيكلي, ، تعمل داخل المجتمعات بدلاً من بينها، ولهذا يعامل البحث النقطة النهائية على أنها قد تكون غير قابلة للعكس. يتطلب التصحيح رافعات. والرافعات هي ما يتم فقدانه.
لا يحتاج أحد إلى الاستيلاء على السلطة. علينا فقط الاستمرار في تسليمها، قرارًا معقولًا في كل مرة.
لماذا لا يوجد إنذار حريق
سيناريوهات الاستيلاء، مهما كان احتمالها، تأتي على الأقل مع سلك تعثر. نظام يُضبط وهو يكذب بشأن نواياه، a المنعطف الخائن, محاولة للهروب: هذه أحداث، والأحداث يمكن أن تؤدي إلى استجابات. عدم القدرة على العمل لا يقدم شيئاً ملائماً كل خطوة طوعية وكل خطوة هي، في عزلة، قابلة للدفاع. الشركة التي تقوم بتأهيل محلليها تستبعد الشركة التي لا تملكها وتوضح الوكالة التي تسمح بوضع مشروع نموذجي لأنظمتها الأعمال المتأخرة. المسيّس الذي يَستعملُ aI-optimized الرسائل يَرْبحُ.
أي شخص يرفض، من حيث المبدأ، تسليم قطعته من الآلة يخسر ببساطة أمام من لن يرفض، ومجموع كل تلك الخيارات الفردية المنطقية هو حضارة لم يخترها أحد.
الفكرة لها نسب. رسم مقال بول كريستيانو عام 2019 «ما يبدو عليه الفشل» عالماً ينتهي بأنين، حيث تحسّن الأنظمة بدائل عما نريده حتى تصبح البدائل كل ما تبقى. ما تضيفه ورقة 2025 هو البنية: آليات مسماة، ودليل الدولة الريعية، وحلقات التغذية الراجعة عبر المجالات، والادعاء الصريح بأن هذا ينتمي إلى فئة التهديدات المؤدية إلى الانقراض، لأن فقدان التأثير البشري على المستقبل فقداناً دائماً لا رجعة فيه هو كارثة وجودية سواء مات أحد في اليوم الذي يصبح فيه غير قابل للإصلاح أم لا.
الملكية والتكيف
الملكية. الاعتراض الأكثر شيوعاً: يملك البشر رأس المال. فإذا قام الذكاء الاصطناعي بالعمل، فإن العوائد لا تزال تتدفق إلى المساهمين البشر، وبالتالي يحتفظ البشر بالسلطة المهمة. والرد هو أن الملكية مطالبة تُنفذ من خلال المحاكم والسجلات والجهات التنظيمية وفي النهاية الدول، وهي بالضبط المؤسسات التي تصفها الورقة بأنها تنزلق خارج السيطرة البشرية، وليست حقيقة مادية. فشهادة الأسهم تساوي قيمة التنفيذ الذي يدعمها. وحتى لو صمدت الملكية تماماً، فإنها لا تنطبق إلا على عدد ضئيل جداً من الناس، وهذا ليس رداً على فقدان السلطة بقدر ما هو وصف له، مع قيم مجموعة صغيرة محبوسة للجميع.
التكيف. استوعبت المجتمعات المطبعة والمصنع والحاسوب، وبقي التأثير البشري. لكن كل تلك التقنيات استبدلت مهاما معينة بينما زادت قيمة الحكم البشري في مكان آخر من النظام. والبديل العام للإدراك البشري هو نهاية السلم، لا درجة أخرى فيه. ومر التكيف السابق عبر آليات ووظائف جديدة وائتلافات سياسية جديدة وحركات ثقافية جديدة، كلها اعتمدت على الحاجة إلى البشر في مكان ما. والتقنية الجديدة تزيل هذه المقدمة.
التزامن. يلاحظ المتشككون أيضا أن الكارثة تتطلب فشل الاقتصاد والدولة والثقافة معا، وأن جمع ثلاث توقعات غير مؤكدة يجب أن يخفض الاحتمال. مقبول، إلا أن حالات الفشل ليست مستقلة. الحلقات التغذية الراجعة هي النقطة. المتغير الأساسي نفسه، وهو مقدار حاجة كل نظام إلى البشر، يقود الثلاثة جميعا، مما يجعل حالات الفشل مترابطة لا مصادفة.
حيث يكون النقاد أكثر إقناعا في رأينا هو التوقيت والاكتمال: الورقة إطار عمل ولا تقول الكثير عن سرعة أي من هذه العمليات أو أي المؤسسات تنهار أولا. تحدد الورقة اتجاه الضغط ولا تحدد تاريخ الوصول.
ما الذي يتطلبه المنع فعليًا
والسمة غير المريحة لهذا الخطر هي أن برنامج السلامة الموحد لا يمسه. والمواءمة، بالمعنى المعتاد، تجعل كل نظام يفعل ما ينويه مشغِّله. فكل نظام في قصة التفكك التدريجي يمكن أن يجتاز هذا الاختبار في حين أن المجموع لا يزال ينجرف، لأن المشكلة هي الحضارة التي تعيد تنظيم نفسها حول الآلات، وبإصرار، وليس بالآلات المعصية. فقدان السيطرة هو مشكلة النظم بدلاً من مشكلة نموذج واحد؛ هذه الورقة هي أقوى بيان أكاديمي لهذه الحالة.
مقترحات المؤلفين لا تزال في مراحلها الأولى وهم يقولون ذلك. قيس التأثير البشري على الأنظمة الرئيسية مباشرة، كما تقيس الاقتصادات التضخم، حتى يصبح التراجع مرئياً وهو لا يزال قابلاً للتصحيح. عزز الآليات التي تبقي المؤسسات مسؤولة أمام الناس، الآلية غير اللامعة لـ الرقابة الديمقراطية, ، الإفصاح، والقانون. وتطوير ما يسمونه محاذاة النظام البيئي: طرق للحفاظ على ديناميكيات على مستوى الحضارة، لا مجرد نماذج فردية، مرتبطة بتفضيلات البشر.
إلى تلك القائمة نضيف القطعة التي تشير إليها الورقة لكنها لا تتوقف عندها. كل ما سبق يتقوض بالمنافسة. الدولة التي تبقي البشر في حلقاتها تقبل احتكاكاً ترفضه منافساتها، وهي نفس مشكلة العمل الجماعي التي تمر عبر كل طريق آخر يؤدي إلى فقدان السيطرة, ، ولها نفس شكل الإجابة: اتفاقات ملزمة تزيح أشد أشكال السباق تآكلا عن الطاولة، وتكون موثقة بما يكفي ليكون ضبط النفس ليس تضحية تنافسية من حيث المبدأ. ذلك هو العمل الذي وُجدت هذه المؤسسة لتعزيزه.
الإضعاف التدريجي هو، بمعنى ما، أصعب نسخة من المشكلة، كارثة تتكون بالكامل من خيارات محلية عقلانية. وهو أيضاً، بمعنى آخر، مشجع: على عكس التحول الغادر، يحدث ببطء كافٍ ليُرى، بشرط أن يقيس أحدهم، وببطء كافٍ ليُوقف، بشرط أن تعمل الرافعات عندما نمد أيدينا إليها. مساهمة الورقة هي تحديد الرافعات التي يجب مراقبتها بدقة ومبكراً.