Страны, которые исторически определяли успешность международного управления технологиями, не всегда являются самыми могущественными. Монреальский протокол об истощении озонового слоя был разработан в основном Канадой, странами Северной Европы и Европейским сообществом, а не Соединенными Штатами. Договор о запрете мин (1997), который запретил противопехотные наземные мины, был согласован полностью вне рамок главной державы, движимой Канадой и коалицией организаций гражданского общества, и 164 страны ратифицировали его, несмотря на неучастие Соединенных Штатов, Китая и России. Международный уголовный суд был создан из-за устойчивой оппозиции.
Канада полностью выстроила Договор о запрете мин вне рамок основных сил. Средние державы формируют управление технологиями.
Средние державы важны в международном управлении. Они пока не используют своё влияние на сверхразум-управление эффективно. Понимание, в чём состоит это влияние и как оно работало исторически, — отправная точка для изменений.
Кто такие релевантные средние державы
В контексте управления сверхразум средние державы — это страны со значительным регуляторным потенциалом в сфере ИИ, значительным влиянием на рынок ИИ или тем и другим одновременно, но не США и не Китай, и не просто страны среднего размера.
Европейский союз — крупнейший регуляторный игрок. Закон об ИИ EU, вступивший в силу в 2024 году, создаёт обязательные требования к системам ИИ, развёрнутым на рынках EU, и влияет на compliance любой компании, стремящейся работать на едином рынке EU. Это проявление «эффекта Брюсселя»: регуляторные стандарты EU становятся де-факто глобальными, поскольку компаниям проще соблюдать единые глобальные правила, чем разные стандарты для разных рынков. Влияние EU на управление ИИ уже существенно, независимо от того, что делают US или Китай на уровне договоров.
Великобритания hosts Институт безопасности ИИ (создан в 2023 году как Институт безопасности ИИ), первый национальный орган, учреждённый специально для оценки передовых систем ИИ на предмет свойств безопасности. UK провёл Блетчлиский саммит по безопасности ИИ в ноябре 2023 года — первую крупную многостороннюю встречу, специально посвящённую рискам безопасности передового ИИ. После Brexit UK позиционирует безопасность ИИ как сферу, где проявляет международное влияние независимо от EU, и реализует эту роль через научную дипломатию и институциональные инновации, а не через размер регуляторного рынка.
Япония, Южная Корея и Австралия — крупные технологические экономики, тесно связанные с США. Япония принимает процесс G7 по управлению сверхразум, породивший принципы Хиросимского процесса по ИИ. Южная Корея совместно принимала следующий саммит по безопасности ИИ в Сеуле в 2024 году. Австралия активно разрабатывает национальные рамки безопасности ИИ. Вместе эти три страны представляют значительную долю рынка ИИ и регуляторные возможности в Азиатско-Тихоокеанском регионе и поддерживают отношения как с US, так и, с осторожностью, с Китаем, создавая каналы диалога, недоступные западным странам напрямую.
Канада имеет долгую традицию многостороннего участия в управлении технологиями и сыграла ключевую роль в Оттавском процессе по противопехотным минам — самом успешном в недавней истории случае, когда коалиция средних держав установила обязательные международные нормы вопреки возражениям великих держав. Канада участвует в обсуждениях управления сверхразум, но пока не сформировала сопоставимую коалицию вокруг безопасности передового ИИ.
Какими рычагами влияния обладают средние державы
Средние державы в управлении сверхразум обладают четырьмя конкретными формами влияния, ни одна из которых не требует ждать согласия US и Китая.
Самый непосредственный рычаг — доступ к рынку. Страны со значительными рынками ИИ могут обусловить доступ соблюдением стандартов безопасности. Если UK, Канада, Япония, Южная Корея и Австралия согласуют свои национальные регуляторные рамки друг с другом и с EU, они вместе охватят рынок, включающий большинство развитых экономик мира за пределами US и Китая. Компании, желающие работать на этих рынках, окажутся под регуляторным давлением, требующим соответствия стандартам управления, которые установят эти страны. Это рыночное управление, а не договорное, но оно обязывает компании через действие национального законодательства.
Сигналы коалиции меняют переговорный фон для обсуждений US и Китая. Когда Канада, страны Северной Европы и EU в 1980-х выступали единым фронтом по вопросам озона, политическая цена для США за отказ от Монреальского протокола заметно выросла. Внутренние силы (бизнес, пострадавший от неучастия, научное сообщество, союзные правительства) повышали стоимость позиции «вне». Достоверная и сплочённая коалиция средних держав по безопасности ИИ создаст аналогичное политическое давление на US и Китай, если они останутся за рамками системы управления.
Канада созвала переговоры по Договору о запрещении мин 1997 года в Оттаве, намеренно вне Конференции по разоружению, где .US., Китай и Россия заблокировали прогресс. 164 страны ратифицировали договор, который сформировал военную доктрину даже в государствах, не подписавших его. Коалиция по безопасности ИИ, готовая действовать без соглашения с крупными державами, может пойти по тому же пути.
Наращивание технического потенциала создаёт институциональную инфраструктуру, которая потребуется режиму формальной верификации. Институт безопасности ИИ UK, орган US при NIST, созданный частично по модели UK (ныне Центр стандартов и инноваций в области ИИ), и аналогичные органы в других странах развивают методологию оценки и институциональный опыт оценки безопасности передовых ИИ. Сеть национальных институтов безопасности ИИ с общими стандартами оценки и договорённостями об обмене данными функционировала бы как фактическая инфраструктура верификации, без необходимости начинать с переговоров по договору. Когда появятся формальные обязательства по управлению, институциональный потенциал для их реализации уже будет существовать.
Международное институциональное размещение даёт средним державам постоянное влияние на органы управления. OPCW находится в Гааге. IAEA — в Вене. Расположение не случайно: страны-хозяева имеют постоянные отношения с этими институтами и некоторое влияние на их развитие. Глобальное агентство мониторинга ИИ, если будет создано, нужно будет где-то разместить. Страны, которые позиционируют себя как надёжных нейтральных хозяев такого органа, получают канал долгосрочного влияния на управление, выходящий за рамки их сырых возможностей разработки ИИ.
Модель Оттавского договора
Договор о запрещении мин (1997) был согласован через процесс, специально созданный для обхода препятствий со стороны крупных держав. Министр иностранных дел Канады Lloyd Axworthy созвал переговорную конференцию в Оттаве в октябре 1996 года, намеренно обойдя Конференцию по разоружению, где США, Китай и Россия блокировали прогресс по запрету наземных мин. Договор был завершён примерно за год коалицией готовых государств при поддержке кампании гражданского общества. Сто шестьдесят четыре страны его ратифицировали.
Соединённые Штаты, Китай, Россия, Индия и Пакистан не присоединились. Но договор создал мощную норму: применение противопехотных мин стало международно осуждённым так, что это повлияло на военную доктрину и закупки даже в государствах, не подписавших договор. Военное планирование US в последующие годы показало влияние этой нормы в контекстах, где US не была юридически связана. Договор без великих держав изменил поведение великих держав.
Процесс обеспечения безопасности передового ИИ по модели Оттавы допускал бы неучастие US и Китая на первом этапе, одновременно устанавливая обязательные нормы среди желающих стран, достаточные для формирования коммерческого поведения. Он не решил бы проблему управления передовым сверхразум сам по себе, потому что договор, не связывающий организации, ведущие наибольшую разработку передового ИИ, имеет критический пробел. Но он создал бы институциональную инфраструктуру, политический импульс и доказанную осуществимость, которые со временем могли бы привлечь крупные державы, точно как Договор о запрете мин создал нормативную среду, постепенно повышавшую цену применения противопехотных мин.
Что могла бы сделать сейчас коалиция средних держав
Ряд шагов можно предпринять, не дожидаясь всеобъемлющего многостороннего договора и без участия US или Китая на начальном этапе.
Общий стандарт оценки безопасности для передовых ИИ-систем. Если UK AI Security Institute, регулирующий орган EU и аналогичные органы в Канаде, Японии, Южной Корее и Австралии примут единые стандарты оценки передовых моделей ИИ, компаниям придётся соответствовать этим стандартам для работы на их рынках. Так возникает управление через доступ к рынку, а не через договорные обязательства, и это достижимо в ближайшее время без дипломатических прорывов.
Соглашение об обмене данными между национальными институтами безопасности ИИ. Институт безопасности ИИ UK проводил оценки передовых моделей с доступом правительства к результатам, не публикуемым открыто. Обмен данными между союзными институтами безопасности повысит совокупный объём знаний о свойствах безопасности передового ИИ и создаст общую доказательную базу для управленческих решений. Институциональные отношения, необходимые для такого обмена, уже частично существуют.
Создание технической рабочей группы по разработке верификации. Самый сложный вопрос при проектировании договора о сверхразум-управлении — как верифицировать соблюдение заявленных обязательств. Коалиция средних держав могла бы заказать авторитетную техническую работу по проектированию системы верификации, которая ускорит переговоры по договору, когда политические условия позволят. Эта работа должна быть выполнена до начала переговоров, а не во время них.
Прямое взаимодействие с Китаем через двусторонние каналы, не требующие рамки US–Китай. У Японии и Южной Кореи есть собственные сложные, но устойчивые технологические отношения с Китаем. У EU есть регуляторное взаимодействие с китайскими технологическими компаниями через Акт о цифровых рынках и связанные рамки. Эти каналы позволяют вести диалог о нормах сверхразум-управления независимо от динамики US–Китай и могут привести к иному типу взаимодействия, чем нынешние двусторонние обсуждения US–Китай.
«Страны, которые больше всего выиграют от эффективного управления сверхразум, — не обязательно те, у кого сейчас больше всего власти в соревновании. Средние державы имеют и стимул, и возможность создать архитектуру управления, на которую ведущие державы пока не согласились.»
Двухполюсная рамка управления сверхразум недооценивает доступные варианты. Мир, в котором US и Китай не договорились об обязательных обязательствах по безопасности ИИ, — это мир, где странам между ними нужно брать на себя больше работы, как они делали в управлении озоном, противопехотными минами, химическим оружием и Международным уголовным судом, а не мир, где управление невозможно. Прецеденты уже существуют. Вопрос в том, сформируется ли коалиция до того, как возможности, делающие управление необходимым, выйдут за пределы досягаемости институтов, которые могли бы ими управлять.