22 октября 2025 года Future of Life Institute опубликовал открытое письмо под названием Заявление о суперинтеллекте. В отличие от разросшихся манифестов, которые обычно сопровождают такие моменты, вся буква такова:

Мы призываем к запрету на разработку суперинтеллекта, который не будет снят до тех пор, пока не появится широкое научное согласие, что это можно сделать безопасно и контролируемо, и пока не будет сильной общественной поддержки.

Заявление о сверхинтеллекте, Future of Life Institute · Октябрь 2025

В нём не говорится, что сверхинтеллект никогда не следует создавать. В нём не осуждается ИИ как таковой. Оно ставит условие (на самом деле два) и требует остановить разработку, пока они не будут выполнены. Чтобы понять, почему эта скромная просьба представляет собой настоящий сдвиг в дискуссии, нужно понять и то, чего она требует, и то, кто согласился поставить под ней своё имя.

Что на самом деле запрашивает заявление

Формулировка точна. Три особенности отличают её от предыдущих открытых писем, включая известное письмо 2023 года с призывом к шестимесячной паузе в крупнейших тренировочных запусках.

  • Он нацелен конкретно на сверхинтеллект. Не узкий ИИ, не чат-боты, не инструменты ИИ, уже вплетенные в повседневную жизнь. Запрет применяется к системы, которые превышали бы возможности человека практически во всех когнитивных областях;. Эта точность притупляет обычное возражение, что сторонники безопасности хотят остановить полезные технологии. Они хотят остановить одну конкретную и особенно опасную границу.
  • Это условный запрет, а не постоянный. Запрет поднимает момент пересечения двух порогов. Дефолт сегодня таков: построить суперинтеллект и установить безопасность после этого, если мы сможем. Заявление переворачивает его: сначала установить безопасность, затем построить. Бремя доказывания ложится на разработчиков, к которым (по технологии этого следствия) оно, возможно, принадлежит.
  • Это требует поддержки общественности, а не только одобрения экспертов. Второе условие — демократическое, а не техническое. Даже если учёные когда-нибудь согласятся, что суперинтеллект можно контролировать, заявление требует, чтобы на его создание дало согласие общество. Это прямой вызов нынешнему порядку, при котором несколько частных лабораторий принимают за всех решение, меняющее цивилизацию, — ту самую проблему, которую мы разбираем в кто контролирует сверхинтеллект.

Почему подписавшие имеют большее значение, чем формулировки

Открытые письма дешевы. То, что сделало эту страну коалицией. На старте было подписано более 850 человек, и список примечателен не своей длиной, а... диапазон. Общественный подсчет с тех пор превысил 70 000.

На вершине были учёные, создавшие эту область. Йошуа Бенжио и Джеффри Хинтон (оба лауреата премии Тьюринга, обоих часто называют крёстными отцами современного ИИ) подписали, как и Стюарт Рассел, автор стандартного учебника по ИИ. Когда люди, наиболее ответственные за существование технологии, просят мир остановиться до создания её самой мощной формы, это свидетельство, а не активизм.

Затем пришли строители и общественные деятели. Сооснователь Apple Steve Wozniak и основатель Virgin Richard Branson. Историк Yuval Noah Harari, актёр Stephen Fry, и музыкант will.i.am. В отставке лидеры национальной безопасности, включая бывшего председателя Объединённого комитета начальников штабов Admiral Mike Mullen и бывший советник по национальной безопасности Susan Rice. И, что наиболее показательно, фигуры, которые почти ни в чём другом не согласны: Принц Гарри и Меган наряду с Steve Bannon и Glenn Beck.

Эта последняя деталь — весь аргумент в миниатюре. Когда британская королевская пара и медиа-стратег MAGA назвали свои имена в одном и том же заявлении, проблема избежала обычной идеологической сортировки. Беспокойство по поводу суперинтеллекта является одной из немногих позиций в 2025-2026 годах с подлинным межпартийным охватом, которая является именно той коалицией, которая делает возможной обязательную политику, не левую или правую, не истеблишмент или популист.

Что представляет собой заявление, а что — нет

Важно трезво оценивать пределы. Публичное заявление ничего не запрещает. Оно не назначает регулятора, не связывает компанию и не ограничивает государство. Тот, кто воспримет его как закон, ошибётся.

Что оно делает — это перемещает Окно Овертона, диапазон позиций, считающихся мейнстримными и допустимыми для высказывания. Два года назад призыв к запрету целого класса ИИ был бы отвергнут как маргинальный. После октября 2025 года это позиция, которую публично занимают нобелевские учёные, iconic предприниматели и политические фигуры по всему спектру. Этот сдвиг в том, что считается respectable для высказывания, — предпосылка всего последующего. Политики занимают позиции, которые уже популярны; они редко ведут. Функция заявления — сделать запрет достаточно популярным, чтобы лидеры могли действовать.

Именно так начинались более ранние движения по управлению технологиями Пагуошские конференции потратили два десятилетия на формирование интеллектуального и морального консенсуса, который в итоге обеспечил контроль над ядерным оружием. Заявления и декларации — это способ построить взлётную полосу, а не финишная черта.

От заявления к договору

Разрыв между заявлением и реальностью — это разрыв, который призван закрыть Фонд Накада. Декларация утверждает, что запрет желателен и легитимен. Она не создаёт механизмов его enforcement. Для этого нужны три вещи, которые текст намеренно не уточняет:

Заявление о сверхинтеллекте доказало важное: воля существует и она пересекает все привычные линии разделения. Наша план Речь идет о том, чтобы преобразовать это в средства вычислительного контроля, мониторинговое агентство и международный договор, которые дадут заявлению необходимую силу. Если вы согласны, самое полезное, что вы можете сделать дальше, это помочь создать коалицию, которая превратит ее в политику.