Суперинтеллект уже не маргинальная тема в Вашингтоне, Брюсселе или Пекине. Открытый вопрос — скорость: смогут ли правительства действовать быстрее, чем системы, которыми они должны управлять.
В ноябре 2023 года 28 стран подписали Декларацию Блетчли, первое международное соглашение, признающее, что продвинутый ИИ создает риски, которые «потенциально катастрофические». Подписанты включали Соединенные Штаты, Китай, Соединенное Королевство, Европейский союз и страны Азии, Африки и Южной Америки. Соглашение было чем угодно, только не пограничным документом. Его подписали главы государств и высокопоставленные министры.
UK провела первый саммит по безопасности ИИ в Блетчли-парке. Второй прошёл в Сеуле. Третий — в Париже. Создана международная сеть государственных институтов по ИИ, изначально запущенная как AI Safety Institutes, а затем переименованная в UK (AI Security Institute) и US (Center for AI Standards and Innovation); в США, Великобритании и Евросоюзе действуют органы, которые совместно проводят исследования и координируют подходы к рискам. Четыре года назад ничего подобного не существовало.
В Сенате США риск ИИ стал одним из редких по-настоящему bipartisan вопросов. Чак Шумер организовал форумы AI Insight Forums в 2023 году. Джош Хоули назвал суперинтеллект «самой опасной технологией в истории человечества». Марко Рубио внёс законопроект, направленный на риски ИИ. Озабоченность пересекает партийные линии, потому что угроза не уважает идеологию.
Европейский союз принял AI Act в 2024 году — первый в мире всеобъемлющий закон, регулирующий системы ИИ по уровню риска. Самые мощные передовые модели подпадают под самые жёсткие требования. Закон неидеален. Но это обязательный закон, который enforce регуляторы с правом выписывать крупные штрафы.
Китай выпустил собственные правила сверхразум, включая требования к прозрачности алгоритмов и маркировке контента. Китай участвовал в саммитах в Блетчли и Сеуле. Представление о Китае как о не желает участвовать в управлении сверхразум неверно.
В 2025 году Вашингтон отменил указ о безопасности ИИ 2023 года и опубликовал план действий ИИ, основанный на ускорении. Институт .US. стал Центром стандартов и инноваций ИИ. Калифорния приняла закон о раскрытии информации. Начал действовать закон .EU.. Индия приняла саммит 2026 года. Ни один закон не запрещает строить суперинтеллект.
Политическая ситуация 2026 года совсем не похожа на ситуацию 2020 года. Этот сдвиг произошёл потому, что люди за него боролись. Он может продолжаться, и должен, прежде чем создаваемые системы сделают вопрос управления неразрешимым.
28 стран, включая US, UK, EU и Китай, подписывают первое международное соглашение, признающее, что передовой ИИ несёт риски, которые «потенциально катастрофичны». Саммит по безопасности ИИ в Блетчли-парке вырабатывает общую основу для оценки рисков передового ИИ.
Европейский союз принимает первую в мире всеобъемлющую нормативную базу по ИИ, вводя строгие требования к самым мощным передовым моделям. Нарушения влекут штрафы до 3 % глобальной выручки. Закон обязателен для всех 27 государств-членов и распространяется на любую систему ИИ, развёрнутую в EU.
Сенат US проводит серию двухпартийных слушаний по риску ИИ с показаниями Сэма Альтмана из OpenAI, ведущих исследователей и экспертов по политике. Слушания впервые обсуждают экзистенциальный риск ИИ по существу на высшем уровне законодательного надзора US.
.US., .UK. и .EU. создают Институты безопасности ИИ с мандатом на оценку пограничных систем ИИ для катастрофического риска перед развертыванием. Эти институты представляют собой первую официальную государственную инфраструктуру для оценки рисков сверхинтеллекта. Тело .UK now теперь является Институтом безопасности ИИ. В настоящее время bodyUS now является центром стандартов и инноваций ИИ. Работа по оценке продолжается в соответствии с кратким изложением стандартов и безопасности, а не запретом.
Вашингтон отменяет указ о безопасности ИИ от 2023 года и публикует национальный план, основанный на ускорении развития. Федеральный институт безопасности переименован и отозван. Ничто из этого не запрещает суперинтеллект.
Правительства встречаются в Нью-Дели. Общественный продукт — это прежде всего развитие. Ни одно правительство не согласилось запретить суперинтеллект.
OpenAI, Google, Microsoft, Meta и Amazon потратили сотни миллионов на лоббирование в Вашингтоне в 2023 и 2024 годах. Технологическая отрасль — крупнейшая корпоративная лоббистская сила в Соединённых Штатах. Она нанимает бывших регуляторов, бывших законодателей и бывших сотрудников Белого дома. Именно эту силу должно преодолеть любое усилие по сверхразум.
Лоббирование точечное, а не случайное. Оно бьёт именно по тем законодательным механизмам, которые могли бы ограничить разработку сверхразума: пороги вычислений, обязательные проверки безопасности, рамки ответственности. Каждую меру, создающую реальную подотчётность, встречает хорошо финансируемая кампания по её ослаблению или провалу.
Возможности ИИ продвинулись от GPT-2 до систем, превосходящих большинство людей по большинству когнитивных бенчмарков, меньше чем за шесть лет. Крупное законодательство обычно занимает от четырёх до восьми лет от внесения до принятия. Технология не ждёт, пока управление её догонит.
Это несоответствие требует относиться к законодательной срочности как к приоритету первого порядка, финансировать политическую работу, сжимающую сроки, и создавать общественное давление, вынуждающее действовать быстрее. Несоответствие скоростей — политическая проблема, а не закон физики.
Правила безопасности обычно появляются после катастроф, а не до них. Законы о ремнях безопасности приняли после десятилетий смертей на дорогах. Финансовое регулирование ужесточали после кризисов. Механизм превентивного регулирования в большинстве демократий развит слабо.
Для суперинтеллекта модель «сначала катастрофа» неприемлема. Не согласованный с человеком суперинтеллект не оставляет времени на исправление. Именно поэтому необходимо превентивное управление, построенное по образцу ядерное нераспространение а не регулирование после кризиса — правильная рамка. Она уже работала. Требуется заново выстроить политическую инфраструктуру, чтобы она заработала.
Табачная индустрия утверждала, что ограничить рекламу сигарет невозможно. Автомобильная индустрия говорила, что требование ремней безопасности уничтожит продажи машин. Химическая индустрия заявляла, что запрет ХФУ положит конец современному производству. В каждом случае утверждение о невозможности было лоббистской позицией, а не фактом. И в каждом случае регулирование всё равно ввели.
Окно Овертона по риску ИИ сместилось быстрее, чем любая аналогичная проблема в истории. В 2020 году тема риска суперинтеллекта обсуждалась в основном в научных статьях и на онлайн-форумах. В 2026 году он будет включен в повестку дня всех правительств G7. Высокопоставленные главы государств используют в публичных выступлениях фразу "экзистенциальная угроза". Этот сдвиг является результатом постоянной пропаганды со стороны исследователей, журналистов и граждан, которые отказались отпустить этот вопрос.
Формируется политическая коалиция по безопасности ИИ. В него входят консерваторы, которые беспокоятся о национальной безопасности и концентрации власти в горстке корпораций. В него входят прогрессисты, которые обеспокоены отсутствием демократического надзора за наиболее важными технологическими решениями в истории. Он включает в себя религиозные общины, ученых, художников и родителей.
Международный импульс реален. Процесс в Блетчли, международная сеть институтов ИИ и формирующиеся обсуждения управления UN представляют собой самое быстрое создание международной инфраструктуры политики в области ИИ в любой технологической сфере. Детали собираются. Вопрос в том, соберутся ли они достаточно быстро, и это зависит от того, будет ли достаточно людей, которые будут толкать.
Присоединяйтесь к нам и помогите создать давление, которое сделает бездействие политически невозможным.