معهد سلامة الذكاء الاصطناعي هيئة حكومية أُنشئت لتقييم أنظمة الذكاء الاصطناعي الحدودية من حيث المخاطر على الأمن القومي والسلامة العامة، ولبناء خبرة الدولة الخاصة في الذكاء الاصطناعي الحدودي. تركزت الموجة الأولى حول قمة الذكاء الاصطناعي الدولية ٢٠٢٣. تشارك المعاهد الآن الأساليب والنتائج عبر شبكة دولية دفعتها سيول والاجتماعات اللاحقة إلى الأمام.

تدير عدة عواصم كبرى الآن معهداً أو ما يعادله. ولا يزال معظمها عاجزاً عن إصدار أمر بإيقاف نموذج خطير.

ملاحظة حول الأسماء: أعيدت تسمية المعهدين المؤسسين. أصبح جسم UK معهد أمن الذكاء الاصطناعي في فبراير 2025. وأصبح معهد US الآن مركز معايير الذكاء الاصطناعي والابتكار (CAISI) في NIST. ويظل مصطلح "معهد سلامة الذكاء الاصطناعي" التسمية العامة القياسية، ويستخدمه هذا الدليل طوال الوقت.

لسنوات كانت المنظمات الوحيدة التي تفهم نماذج الحدود بعمق هي الشركات التي تبنيها. والمعهد محاولة لوضع قدرة تقنية مستقلة داخل الحكومة، حتى تستطيع السلطات العامة تقييم الأنظمة بدلاً من قبول إحاطة المطور كآخر كلمة.

ما يفعلونه فعلياً

يتجمع عملهم في بضع مجالات.

  • اختبار النماذج الحدودية، أحيانًا قبل الإصدار، للقدرات الخطرة في مجالات مثل السيبراني، البيولوجيا، والاستقلالية، باستخدام الطرق وراء تقييمات القدرات.
  • تطوير علم التقييم نفسه، لأن قياس هذه المخاطر بشكل جيد لا يزال مشكلة بحثية مفتوحة، لا إجراءً محسوماً.
  • تقديم المشورة للحكومة، حتى تكون السياسات مستنيرة من قبل أشخاص فحصوا الأنظمة فعليًا.
  • التنسيق دوليًا، حتى لا يحتاج نموذج تم اختباره في بلد واحد إلى إعادة بنائه من الصفر في كل مكان، وحتى تبدأ المعايير في التقارب.

هذا تقدم مؤسسي حقيقي. فبناء قدرة الدولة على فهم الذكاء الاصطناعي المتقدم شرط أساسي لحوكمته. ولا يمكن تنظيم ما لا يمكن تقييمه، وحتى وقت قريب كانت الحكومات في الغالب عاجزة عن ذلك.

القوة التي يفتقرون إليها في الغالب

يمكن لمعظم معاهد سلامة الذكاء الاصطناعي الاختبار وتقديم المشورة والنشر. قليلون هم الذين يمكنهم الإجبار، وغالبًا ما يعتمد الوصول إلى النماذج على التعاون المعملي، وعادةً ما تكون النتائج مفيدة وليست ملزمة. في معظم الحالات، لا يمكن للمعهد أن يأمر بحجب نموذج خطير. يمكن لهذه الهيئات أن ترى الخطر وتوصي بالرد. نادرا ما يحتاجون إلى واحد.

تلك الفجوة بين التقييم والسلطة هي الحد الهيكلي. إن معهداً يكتشف خطراً جسيماً ولا يستطيع سوى تقديم المشورة لا يكون فعالاً إلا بقدر إرادة الحكومة في التصرف ضد الضغوط التجارية والتنافسية للاستمرار. كثير من البنية الحالية هو نظام إنذار. ونظام الإنذار ليس ضمانة حتى يرد شخص ذو سلطة على الجرس.

القدرة بدون سلطة هي كيف تتعلم الحكومات الأخبار السيئة في وقت متأخر وتتصرف فيما بعد والتجربة التي لا يمكن أن تفرض وقفا هي الإعداد للحكم، وليس الحكم نفسه.

ما يمكن أن يصبحوا عليه

إن القيمة الدائمة لمعاهد سلامة الذكاء الاصطناعي هي ما تجمعه من أجل أنظمة ملزمة في وقت لاحق: القدرة التقنية المستقلة، والمعايير المشتركة، وقناة دولية بين الحكومات. بهذا المعنى هم الشكل المبكر لـنوع الجسم الذي تنادي به المؤسسة. ال IPCC نموذج يظهر كيف يمكن للتقييم العلمي المشترك أن يدعم السياسة الدولية.

ما يجب أن يتغير هو السلطة التقييم يجب أن يتواصل مع الإنفاذ سواء من خلال القانون المحلي الذي يجعل توقيع المعهد حالة من الانتشار أو من خلال إطار دولي يعطي نتائج حقيقية وتمنح هذه المعاهد السلطة التي تضاهي خبراتها، ويُبنى جزء كبير من عملية خنق الحكم الخطير. توقف عن التجسس بموجب القانون, مع قدرة التقييم العام كهياكل أساسية، لا كبديل للحظر والتحقق.