Во многих странах и опросах общественного мнения большинство говорит, что они хотят более строгих правил в отношении пограничного ИИ, в том числе о катастрофическом риске. Загадка в том, почему этот аппетит еще не стал законом с зубами.

В разных странах и по всему политическому спектру подавляющее большинство последовательно выступает за осторожность, регулирование и даже замедление разработки. Общественное сопротивление реально; загадка в том, почему этот мандат до сих пор не повлиял на политику, хотя раньше влиял.

О чём постоянно свидетельствуют опросы

Опросы в разных странах и у разных социологов показывают удивительно устойчивые закономерности. Большинство выражает обеспокоенность рисками сверхразум, включая катастрофические. Большинство поддерживает государственное регулирование ИИ, часто с большим перевесом. Значительная доля (часто большинство) говорит, что поддержала бы замедление разработки ИИ, и многие выступают за международную координацию или соглашения по управлению. Эти результаты повторяются по всему политическому спектру, делая осторожность в отношении ИИ одним из наименее поляризованных вопросов в разделённой политике.

  • Озабоченность широка. В большинстве стран большинство людей выражает тревогу по поводу рисков сверхразум, и заметная доля воспринимает катастрофические сценарии всерьёз.
  • Регулирование популярно. Поддержка государственного надзора за ИИ неизменно превышает противодействие, часто значительно.
  • Замедление имеет поддержку. Вопреки нарративу «никто не хочет тормозить ИИ», в некоторых опросах заметное большинство поддерживает замедление разработки ради надлежащей безопасности.
  • Он пересекает партийные линии. В отличие от большинства высокоактуальных проблем, осторожность в отношении ИИ привлекает поддержку по всему политическому спектру, редкая основа для устойчивой политики.

Почему мандат не повлиял на политику

Если общественность в целом поддерживает меры, почему последовало так мало обязательного регулирования? Ответ не в оппозиции, а в значимости. Для большинства людей риск ИИ — реальная, но низкоприоритетная проблема: они её признают, когда спрашивают, но не голосуют за неё, не обращаются к представителям и не организуются вокруг неё. Она конкурирует за внимание с насущными экономическими заботами и не имеет видимых мобилизующих триггеров, которые вызывают политические действия по другим вопросам. Латентное большинство, которое не активировано, оказывает слабое давление.

Существует также организационный разрыв. Концентрированные интересы, которые способствуют быстрому, нерегулируемому развитию (хорошо финансируемому, хорошо связанному и высоко мотивированному), гораздо лучше организованы, чем рассеянное общественное большинство, которое выступает за осторожность. Без сильного, видимого движения, переводящего общественную озабоченность в политический спрос, политики слышат организованный голос более четко, чем больший, но более тихий. Это знакомая динамика: диффузное большинство обычно проигрывает сконцентрированным меньшинствам не потому, что их больше, а потому, что они неорганизованы.

Почему это основание для оптимизма

Стратегический вывод обнадёживает. Движениям, которым сначала нужно убедить враждебную публику, предстоит долгая и неопределённая борьба. Управление сверхразум такой задачи не ставит: убеждение в значительной степени уже сделано. Задача сводится к более решаемой — повысить заметность и выстроить организацию, превратив широкое, скрытое согласие в видимый, устойчивый политический запрос. Адвокация делает вопрос конкретным и срочным и даёт существующему большинству способ заявить о себе.

Общественность уже в целом на стороне. Разрыв между тем, во что люди верят, и тем, что они мобилизованы требовать, и закрытие этого разрыва - это именно то, для чего движение.

От скрытого большинства к политической силе

Демократическое управление ИИ не требует менять мнение людей; оно требует сделать то, что люди уже думают, политически значимым. Стабильные данные опросов — это основа, на которой можно строить: это значит, что договор или обязательное регулирование не будут навязаны вопреки воле общества, а выразят её. Незавершённая задача — поднять приоритет вопроса, организовать разрозненное большинство в силу, которую политики не смогут игнорировать, и обеспечить, чтобы в нужный политический момент (а он наступит — либо через предупреждающее событие, либо через неуклонное развитие технологий) существовала активная аудитория, готовая потребовать действий. Мандат уже есть. Превращение его в политику — это задача, и она начинается с гораздо более сильных позиций, чем принято считать.