تشخص هذه القطعة سبب جوع المجال. الجزء الثاني، كيف تصل سلامة الذكاء الاصطناعي إلى مليار دولار سنوياً يوضح كيف يمكن أن يصل إلى خمسة أضعاف هذه الميزانية، ومن أين ستأتي الأموال.
أطلب من الناس أن يُخمّنوا كم ينفق العالم ليتأكدوا من أن (إي إس آي) يُبلي حسناً، ومعظم الأراضي في مكان ما في البلايين. فالعلماء الذين يبنونها يحذرون من أنه قد يكون خطيرا؛ ومن المؤكد أن الاستجابة تمول كمشكلة خطيرة. أضف كل منحة خيرية وكل برنامج حكومي للسلامة وكل دولار تنفقه مختبرات الحدود على فرق الأمان الخاصة بها والاستثمار العالمي في قدرات الاستثمار الأجنبي المباشر يبلغ الآن نحو تريليون دولار في السنة. لكل ألف دولار أنفقت لجعل آي أي أكثر قوة، أقل من دولار واحد ينفق لجعلها آمنة.
يستحق الرقم 190 مليون دولار التدقيق، لأن التقديرات في هذا المجال فوضوية حقا. تتراوح المجاميع المنشورة من نحو 110 ملايين إلى 250 مليونا سنويا حسب ما إذا كنت تحسب معاهد حكومية وفرق داخل المختبرات والعمل الأكاديمي. ما يلي هو حسابنا الخاص، مبني من قواعد بيانات المنح العامة وإفصاحات الميزانيات، ممولا بممول.
من أين يأتي المال
| المصدر | مُقدَّر سنويًا |
|---|---|
| Open Philanthropyمدعوم من Good Ventures؛ أكثر من 336 مليون دولار لسلامة الذكاء الاصطناعي منذ 2014، حوالي 46-50 مليون دولار سنويًا مؤخرًا | 50 مليون دولار |
| فرق سلامة مختبرات الحدودبحوث السلامة الداخلية في أنثروبيك، OpenAI، جوجل ديب مايند، تقديرية، غير معلنة | 35M |
| صندوق البقاء والازدهارمدعومة إلى حد كبير من جان تالين؛ خصصت جولتها لعام 2024 وحدها أكثر من 19 مليون دولار | 30 مليون دولار |
| حكومة UKمعهد أمن الذكاء الاصطناعي بالإضافة إلى برنامج ARIA البالغ ٥٩ مليون جنيه إسترليني للذكاء الاصطناعي المحمي | 30 مليون دولار |
| الأعمال الخيرية الأخرى والأفرادلونغفيو فيلانثروبي، صندوق المستقبل طويل الأمد، مؤسسات أصغر، متبرعون أفراد | 25 مليون دولار |
| US، EU وحكومات أخرىبرامج السلامة التابعة لـ CAISI في NIST و NSF، مكتب الذكاء الاصطناعي EU | 20 مليون دولار |
| الإجمالي | 190 مليون |
يبرز أمران. أولهما أن هذا ليس مجالًا متنوعًا. فمؤسسة خاصة واحدة تقدم أكثر من ربع التمويل كله، وأكثر من نصف الأموال الخيرية. وثانيهما أن حصة الحكومة حديثة وهشة، إذ يعود معظمها إلى عام ٢٠٢٣، وقد أسقط كل من معهد UK ومعهد US كلمة «السلامة» من اسميهما في غضون عامين من تأسيسهما.
أين تذهب الأموال
لا ينشر أي ممول تفصيلا للإنفاق حسب الغرض، لذا صنفنا المنح بأنفسنا: أخذنا كل مصدر أعلاه ورتبنا منحة وبرامجه المعروفة في فئات وجمعنا عبر الممولين. تظهر قاعدة بيانات المنح العامة لـOpen Philanthropy حوالي 28 مليون دولار في منح السلامة التقنية لعام 2024، ذهب 68 بالمئة منها إلى التقييمات والمقارنات المعيارية. ومعهد UK لأمن الذكاء الاصطناعي بموجب تفويضه هيئة تقييمات، بينما برنامج ARIA للذكاء الاصطناعي المحمي بحث تقني. وتمتد منح صندوق البقاء والازدهار عبر العمل التقني (MIRI) والتقييمات (METR، Apollo Research) والدعوة (صندوق عمل CAIS). ويميل برنامج Longview للذكاء الاصطناعي نحو الحوكمة. وميزانيات المختبرات الداخلية تكاد تكون تقنية بالكامل. والنتيجة:
| ما الذي يدفع ثمنه | مُقدَّر سنويًا | شارك |
|---|---|---|
| البحث في السلامة التقنيةالمحاذاة، القابلية للتفسير، المتانة، فرق المختبرات، ARIA، NSF، الأكاديميا، المنظمات غير الربحية | 80 مليون دولار | 42% |
| تقييمات النماذج والمقارنة المعياريةاختبار القدرات الخطرة، UK AISI، METR، Apollo، منح تقييمات Open Phil | 50 مليون دولار | 26% |
| بحوث الحوكمة والسياساتتصميم المعاهدات، معايير السلامة، حوكمة الحوسبة | 30 مليون دولار | 16% |
| بناء المجال والمواهبالزمالة، برامج التدريب البحثي، مسارات المهن | 20 مليون دولار | 11% |
| المناصرة والمشاركة العامةالحملات، الرسائل المفتوحة، التنظيم الشعبي | 10 أميال | 5% |
إجماليات الفئات تقديرات مبنية على تقديرات وكثير من المنح تتداخل بين الخطوط فمنظمة تقييمات غير ربحية تقوم بعمل تقني ومعهد حوكمة يدير زمالات. لكن الشكل يصمد أمام أي إعادة تصنيف معقولة: البحث التقني والتقييمات تستوعب نحو ثلثي كل شيء والمناصرة (عمل تغيير ما تفعله الحكومات والشركات فعلياً) تحصل على عشرين.
كلف إنتاج أفاتار: طريق الماء أكثر مما ينفقه العالم بأسره على سلامة الذكاء الاصطناعي في سنة. تكلف مجموعة تدريب حدودية واحدة أكثر من عقد من ميزانية المجال الإجمالية. تنفق الحكومة الفيدرالية US إجمالي المجال السنوي على الدفاع تقريبًا كل عشر دقائق.
السبب الأول: ممول واحد مهيمن
يأتي أكثر من نصف أموال السلامة الخيرية للذكاء الاصطناعي من مكان واحد: غود فنتشرز، مؤسسة المؤسس المشارك لفيسبوك داستن موسكوفيتز وكاري تونا، وتُمنح عبر أوبن فيلانثروبي. ولهذا التركز عواقب تتجاوز الهشاشة. عندما تقع منظمة خارج ما ستموله غود فنتشرز، يصبح بقية مجمع المانحين ضحلا جدا بحيث يواجه، وفق تقدير أحد المانحين السابقين في المجال، عتبة تمويل أعلى بمقدار مرة ونصف إلى ثلاث مرات من الآخرين. وعندما يغير الممول المهيمن أولوياته، يتغير المجال بأكمله معه: انخفضت منح السلامة التقنية لأوبن فيلانثروبي من ذروة عام 2022 التي تجاوزت 60 مليون دولار إلى 28 مليون دولار في المنح المدرجة لعام 2024، وذهب معظم ما تبقى إلى التقييمات. ولم يتدخل أي ممول آخر لسد الفارق. في مجال صحي، لا يمكن لاجتماع مجلس إدارة مانح واحد أن يعيد تشكيل جدول أعمال البحث. وهذا ليس مجالا صحيا بعد.
السبب الثاني: غياب القاعدة الجماهيرية
يجمع بحث السرطان عشرات المليارات سنويا لأن الجميع يعرف شخصا مصابا. وتجاوزت الأعمال الخيرية المناخية ١٠ مليارات دولار سنويا لأن الضرر مرئي والحركة عمرها خمسون عاما. أما مخاطر الذكاء الاصطناعي فليس لها مرضى، ولا مدن مغمورة، ولا عائلات مفجوعة؛ فالضرر الذي تحذر منه لم يحدث، وإذا نجح المجال فلن يحدث أبدا. ومنع خطر لم يتجسد بعد قريب من أصعب عروض جمع التبرعات الممكنة. والأشخاص الأكثر اقتناعا بالحجة يميلون إلى أن يكونوا باحثين، لا مليارديرات، ولا يرتبط اهتمام الجمهور العام بالذكاء الاصطناعي (الذي تظهر استطلاعات الرأي أنه حقيقي ومتنام) بصندوق تبرعات واضح.
السبب الثالث: استوعبت المختبرات المجال
يعمل جزء كبير من المؤهلين لإجراء بحوث المحاذاة في أنثروبيك أو OpenAI أو جوجل ديب مايند، بمستويات تعويض لا تستطيع أي منظمة غير ربحية الاقتراب منها. وهذا يشوه صورة التمويل مرتين. فهو يجعل السلامة تبدو أفضل تمويلا مما هي عليه، لأن أبرز أعمال السلامة تحدث داخل شركات تملك ميزانيات هائلة. وهو يربط الكثير من جدول أعمال البحث في المجال بحكم تجاري: إنفاق السلامة في المختبر حقيقي، لكنه إنفاق يختاره المختبر، على أسئلة يحددها المختبر، وقابل للنشر وفق تقدير المختبر، وقابل للإلغاء عند تغير الأولويات، كما أظهر OpenAI عندما حل فريق المحاذاة الفائقة التابع له في عام 2024، بعد عام من التزامه العلني بعشرين بالمئة من قدرته الحاسوبية لهذه المشكلة. ويوجد البحث المستقل في السلامة تحديدا لطرح الأسئلة التي لن تطرحها المختبرات، والاستقلالية هي بالضبط ما لا يموله المال على نطاق واسع.
السبب الرابع: المال يتجنب السياسة
قد تكون أصغر شريحة من الرسم البياني (5 في المئة للمناصرة) الأكثر تأثيرا. يحد قانون الجمعيات الخيرية التابع لـ nakadafoundation.org من حجم الضغط السياسي الذي يمكن لمؤسسة 501(ج)(3) تمويله، ومعظم الممولين المؤسسيين أكثر حذرا بكثير من المتطلب القانوني، خشية تسييس منحهم الأوسع. والنتيجة مجال ينفق 160 مليون دولار سنويا على إنتاج البحوث والتقييمات، وحوالي 10 ملايين دولار فقط لضمان أن يتصرف أصحاب السلطة بناء عليها. تعمل المنظمات التي تقوم بالعمل السياسي المباشر (PauseAI وControlAI والذراع الحملي لمعهد مستقبل الحياة) بميزانيات تخجل سباقا انتخابيا متوسط الحجم للكونغرس. بغض النظر عن رأي المرء في تكتيكاتها، فإن التباين صارخ: تنفق أكبر شركات التكنولوجيا على الضغط الاتحادي وحده أكثر مما ينفقه مجال السلامة بأكمله على المناصرة.
ما الذي سيغير هذا
حساب الحقل يعني مبالغ صغيرة تنقله ومن شأن المانحين الجدد الذين يقدمون 5 ملايين دولار في السنة أن يصنفوا على الفور من بين أكبر ممولين في مجال الدعوة إلى السلامة في المنطقة. ومن شأن الحكومة التي تلتزم بعشرة سنت من ميزانيتها الدفاعية لبحوث السلامة أن تضاعف تقريبا المجموع العالمي. وهذا هو السبب النادر في أن الاختناقات ليست القدرة الاستيعابية (يقول الممولون أنفسهم علناً أنهم لا يستطيعون تغطية الفرص التي يرونها) ولكن مجرد عدد الأشخاص الذين يكتبون الشيكات.
والمال واحد؛ والسياسة هي الأخرى، ولا تتطلب ثروة شخصية.
هنا من أين يأتي المال، وإلى أين يذهب، ولماذا يبقى الرقم صغيرًا جدًا.