В мае 1958 года министр иностранных дел Бельгии Поль-Анри Спаак разослал другим правительствам четырехстраничный рабочий документ. В нем предлагалось соглашение, которое оставит Антарктиду свободной от военной деятельности и открытой для международных инспекций. В Вашингтоне и Москве почти никто не проявил энтузиазма. На континенте не было постоянного населения, не было известных полезных ископаемых, за которые стоило бы воевать, и не было очевидной стратегической ценности. Документ пролежал на столах год. К декабрю 1959 года его подписали двенадцать правительств.

Эти двенадцать стран демилитаризовали Антарктиду, заморозили территориальные претензии, гарантировали друг другу право инспектировать любую точку и отвели весь континент исключительно мирной науке. Договор держится уже больше шестидесяти лет. Это малоиспользуемая модель для ИИ.

Тихое принятие Договора об Антарктике является причиной, по которой он имеет значение для управления АСИ. Соперничающие сверхдержавы с пересекающимися утверждениями, которые подпитывали годы позирования, согласились не давить ни на одну из них. Они демилитаризовали целый континент в разгар холодной войны и вписали в договор режим проверки, достаточно открытый, чтобы удовлетворить стороны, которые совсем не доверяют друг другу. Текст договора является кратким для политического достижения такого масштаба.

Что договор на самом деле установил

  • Демилитаризация. Антарктика может использоваться только в мирных целях. Военные базы, испытания оружия и манёвры запрещены. Договор стал первым соглашением по контролю над вооружениями времён холодной войны, подписанным ещё до Договора о частичном запрещении ядерных испытаний 1963 года.
  • Заморозка территориальных претензий. Семь стран выдвинули претензии, некоторые из них перекрывались (Британия, Аргентина и Чили претендовали на один и тот же полуостров). Договор заморозил все. Ни одна претензия не отозвана и ни одна не может быть расширена. Спор отложен, а не разрешён.
  • Свобода инспекции. Любая сторона может в любое время инспектировать любую станцию, установку или оборудование любой другой стороны, при этом наблюдателям предоставляется полная свобода доступа. Это один из самых открытых режимов верификации из когда-либо прописанных.
  • Наука как общая цель. Континент предназначен исключительно для научных исследований с обязанностью свободно делиться результатами и кадрами. Первоначальные подписанты договора 1959 года — только те, у кого уже были серьёзные научные программы в Антарктиде, и консультативный механизм договора до сих пор даёт больший вес тем, кто ведёт исследования.

Переносимая идея: заморозить, затем проверить

Центральное нововведение договора заключалось в том, чтобы отделить лежащее в основе соперничество от непосредственного поведения. Никому не нужно было уступать вопрос о том, кому «принадлежит» Антарктида. Нужно было лишь согласиться, что этот вопрос не будет подниматься, и что все смогут проверять. Такая позиция напрямую применима к передовому ИИ, где страх уступить решающее преимущество подстёгивает гонку. Договор, требующий окончательного согласия о том, кому разрешено создавать самые мощные системы, был бы неподписываемым. Договор, замораживающий самые опасные формы разработки, с мораторием на пересечение указанных порогов возможностей и гарантированными взаимными инспекциями, требует чего-то более узкого и достижимого. Не капитуляции. Общей паузы под контролем.

Режим инспекций — часть, которую стоит копировать больше всего. В Антарктике он работает, потому что является взаимным и безусловным, а право на инспекцию — постоянное право, прописанное в договоре, а не одолжение, предоставляемое от случая к случаю. Именно эта симметрия сделала его приемлемым для недоверчивых сторон. Каждая сторона отказалась от секретности в обмен на такое же право в отношении других. Любой режим верификации ИИ, который надеется выжить между соперниками, потребует той же взаимности и встроенности.

Низкие ставки

Антарктиду было легко оставить в покое, потому что ставки были низкими. Там никто не жил. Никто не строил ничего, ради чего стоило бы гоняться. Договор основывался на том, что премия была маргинальной. Уберите низкие ставки, и сдержанность должна исходить от чего-то другого: проверки, стоимости прорыва и приза, который больше не является маргинальным.

Механизм на самом деле не зависит от низких ставок. Он зависит от взаимного страха перед альтернативой. Державы заморозили Антарктиду, потому что неограниченная гонка за влияние выглядела для всех хуже, чем совместная пауза. Стоимость того, что семь правительств стали бы водить флаги, проводить испытания оружия и противостоять друг другу на ледяном континенте, оказалась выше, чем цена отказа от всего этого. Этот расчёт — что соревнование, которое ни одна сторона не может безопасно выиграть, хуже проверенной паузы, — тот же самый, с которым сталкивается управление сверхразум. Договор об Антарктике не доказывает, что сдержанность в условиях низких ставок можно распространить повсеместно. Он показывает, что определённый вид взаимного страха можно превратить в стабильное соглашение и закрепить его через жёсткий инспекционный режим.

Как договор становился сильнее со временем

Антарктида также показывает, что договор можно усиливать по мере изменения обстоятельств. В октябре 1991 года после двух лет переговоров стороны приняли Мадридский протокол. Он запретил добычу полезных ископаемых и объявил континент «природным заповедником, посвящённым миру и науке». Запрет на полезные ископаемые можно пересмотреть только через пятьдесят лет. Рамки, согласованные в одну эпоху, в следующую были усилены. Управление сверхразум, скорее всего, пойдёт по той же траектории: первоначальное соглашение о заморозке наиболее опасной деятельности позднее ужесточат по мере накопления понимания и доверия.

Через шестьдесят семь лет после подписания Договор об Антарктике насчитывает 56 участников. Ни одна из первоначальных двенадцати стран не вышла. Ни одна не испытывала оружие на континенте. Ни одна не расширила свои претензии. Режим верификации применялся десятки раз, в основном без инцидентов, а редкие споры (о уведомлениях станций, экологических правилах, туризме) решались внутри консультативного механизма, а не силой. Скептик, считающий, что международные соглашения по опасным технологиям не могут держаться, смотрит на работающий контрпример.

Что переносится, а что нет

Передовой ИИ — это не Антарктида. Приз здесь немедленный, огромный и создаётся частными игроками под давлением конкуренции, а не только государствами, сажающими флаги. Цена сдержанности намного выше, а соблазн нарушить договорённость — гораздо сильнее. Нет и очевидных аналогов антарктическим научным станциям, где инспекторы могли бы проверять работу, не мешая ей. Простое копирование антарктической модели на ИИ не сработает.

То, что происходит, это дипломатическая форма. Договор об искусственном интеллекте между соперниками может принять форму замораживания, а не урегулирования. Это может быть связано с конкретной опасной деятельностью, которой обе стороны имеют основания опасаться, оставляя более широкие вопросы (полный запрет против моратория; детали порогов возможностей; лечение высвобождений с открытым весом) для более поздних протоколов. Он может записывать инспекцию в виде постоянного взаимного права, а не разрешения, с тем чтобы режим проверки был прочным в условиях политического оборота. И он может быть разработан, чтобы затвердеть с течением времени, как это было с Мадридским протоколом, а не прибыть в качестве статической сделки. Договор об Антарктике показывает, что технологии с высокими ставками могут проводиться в бездействии между соперниками. Форма договора может быть скопирована; политический страх, который сделал Антарктиду вне пределов, должен быть заработан для сверхразум.