استضافت كوريا الجنوبية والمملكة المتحدة قمة سيول للذكاء الاصطناعي، الاجتماع الثاني في السلسلة التي انطلقت في حديقة بلتشلي في نوفمبر ٢٠٢٣. انقسمت جدول الأعمال بوضوح. في المسار الشركي، قدم المطورون الرائدون التزامات سلامة عامة. في المسار الحكومي، اتفقت الدول على تعميق التعاون في علم التقييم. ما قدمه كل مسار، وما تركه مفتوحا، لا يزال أوضح قراءة لوضع حوكمة الذكاء الفائق في ٢٠٢٤.
والالتزامات والطرق الحكومية هي وثائق عامة بدون قوة القانون.
التزامات سلامة الذكاء الاصطناعي الرائدة
كانت الوثيقة الرئيسية هي التزامات سلامة الذكاء الاصطناعي الحدودي، التي وقعتها ست عشرة شركة كبرى للذكاء الاصطناعي، بما في ذلك مطورون من الولايات المتحدة والصين والمملكة المتحدة والإمارات. تعهدت الشركات بنشر أطر سلامة تصف كيفية تقييمها للمخاطر الناجمة عن النماذج الحدودية؛ وتحديد عتبات المخاطر التي تعتبرها غير مقبولة؛ والأهم من ذلك، عدم تطوير أو نشر نماذج إذا تعذر إبقاء تلك العتبات دون هذا الخط، بما في ذلك الالتزام بالتراجع عند فشل التخفيفات.
كان التحول الجوهري هو المبدأ العلني. فقد أعلن المطورون الرائدون، وبشكل موثق، أن بعض القدرات خطيرة جدًا بحيث لا يمكن نشرها، وأنهم سيحددون خطوطًا حمراء ويتصرفون بناءً عليها. انتقلت الصناعة من التطمينات الغامضة إلى حدود معلنة. وظلت هذه الحدود محددة ذاتيًا.
لماذا لا تكفي الالتزامات الطوعية
- تحدد الشركات عتباتها الخاصة. يحدد كل مطور المخاطر غير المقبولة وكيفية قياسها. لا يوجد معيار مشترك ولا هيئة خارجية تتحقق من صحة التعريفات.
- لا يوجد تحقق مستقل. لا شيء يؤكد أن إطار السلامة الداخلي يُتبع، أو أن التقييمات صادقة. الامتثال يعتمد على كلمة المطور.
- لا إنفاذ. فكسر التعهد ينطوي على تكلفة سمعة في معظمها، والتعهدات ليست قانونا.
- يمكن مراجعتها أو إسقاطها. يمكن للالتزامات الطوعية تحت الضغط التنافسي أن تتآكل بهدوء عندما يتقدم منافس. التنظيم الذاتي بهذه الهشاشة.
والوعد الذي يمكن أن يحدده الوعد، ويقيسه، ويكسر وحده هو صاحب مكان للحكم. الملاجئ تساعد فقط إذا كان هناك شيء أقوى يستبدلهم عمداً
شبكة معاهد السلامة
وقد أنتج المسار الحكومي شيئًا يتمتع بإمكانات أكثر استدامة: الزخم نحو شبكة دولية من معاهد سلامة الذكاء الاصطناعي. وبالبناء على الهيئات المنشأة حديثاً في المملكة المتحدة والولايات المتحدة، اتفقت الدول على التعاون في مجال علم تقييم النماذج الحدودية، وتقاسم الأساليب، ومواءمة الاختبارات، وبناء القدرة الفنية التي يحتاج إليها أي نظام للتحقق في المستقبل. إن الهيئات العامة التي يمكنها بالفعل تقييم ما إذا كان النموذج خطيرًا هي النسيج الضام الذي تتطلبه المعاهدة في نهاية المطاف.
أكد إعلان سيول، الذي أقرته الحكومات المجتمعة، على الذكاء الاصطناعي المتمحور حول الإنسان والآمن والموثوق، وعلى استمرار التعاون الدولي. وكما كان نص بلتشلي، كان بياناً للاتجاه لا مجموعة التزامات.
النمط والفجوة
تتناسب سيول مع نمط معروف في حوكمة التقنيات الخطرة: الاعتراف، ثم الالتزام الطوعي، ثم (إن نجحت العملية) القواعد الملزمة. والتعهدات الشركاتية وشبكة المعاهد تمثل المرحلة الثانية. والعمل غير المكتمل هو الثالثة: المعايير المشتركة، والتحقق المستقل، والالتزام القانوني.
معاهد السلامة هي الجسر الأكثر وعدا، لأن القدرة التي تبنيها هي بالضبط ما سيستخدمه نظام ملزم. والخطر أن تتوقف عملية القمم عند المرحلة الطوعية، وأن يرضى العالم بالتعهدات لأن التعهدات أسهل من المعاهدات، بينما تستمر القدرات في التقدم. وقد أظهرت سول الفجوة بين الالتزام والحوكمة. وإغلاقها هو المهمة المتبقية. وموقف المؤسسة هو أن إغلاقها يعني الانتقال من تعهدات الشركات إلى القانون الدولي الوقائي قبل أن تذوب الخطوط الحمراء المحددة ذاتيًا تحت ضغط السباق. قراءات ذات صلة: لماذا تفشل التزامات سلامة الذكاء الاصطناعي الطوعية كاستراتيجية وحيدة.