10 октября 1983 года в Кэмп-Дэвиде Рональд Рейган сел смотреть предварительную копию фильма, который ABC планировала показать в следующем месяце. Фильм назывался На следующий день, и в нём был показан ядерный обмен, пронёсшийся через Лоуренс и Канзас-Сити: вспышка, огненный шторм, выжившие, медленно умирающие от радиации среди руин всего привычного. В ту же ночь Рейган записал в дневнике, что фильм оставил его «глубоко подавленным». В той же записи он сформулировал решение: страна должна сделать всё возможное, чтобы ядерная война никогда не произошла.
Спустя шесть недель, 20 ноября, примерно 100 миллионов американцев посмотрели тот же фильм. Это остается одним из самых просматриваемых телевизионных передач в истории страны. Школы отправляют домашние рекомендации. После этого сети запустили дискуссионные панели. На одну ночь люди могут представить себе, как ядерная война ударит по обычному американскому городу.
Почему фильм до него дошёл, а брифинги — нет
Рейган не был человеком, которому не хватало ядерной информации. Он был проинформирован о весах бросок и мегатоннаже, о едином комплексном оперативном плане, о том, сколько минут ему придется решать. Он прошел через военные игры. Ничто из этого не показывало ему, что бомбы сделают с городом.
Осень 1983 года уже была самым опасным отрезком поздней холодной войны, и именно поэтому фильм произвёл такое сильное впечатление. В сентябре советский истребитель сбил южнокорейский авиалайнер, погибли 269 человек. В ноябре, за несколько дней до показа, командно-штабные учения NATO под названием Able Archer прошли настолько реалистично, что часть советского руководства, по сообщениям, опасалась, что это прикрытие для настоящего первого удара. Напряжение было не теоретическим. В этот момент пришёл двухчасовой прайм-тайм на телевидении, показавший, что на самом деле означало это напряжение, если бы оно разрядилось.
Опасность становится политической, когда люди чувствуют ее, и люди чувствуют истории о конкретных людях, а не статистику о популяциях. Никто не может представить себе число погибших в ядерной войне. Почти каждый может представить себе врача, наблюдающего, как его больница заполняет прошлую емкость.
От ужаса к подписи
Рейган годами высказывал личное отвращение к ядерному оружию и искреннее желание от него избавиться. Сдвиг во время его второго срока имел много авторов: новый и иной партнёр в Москве, закулисная дипломатия, постепенное накопление его собственных убеждений. Фильм входит в эту траекторию как один яркий момент среди нескольких, а не как рычаг, сдвинувший всё.
В октябре 1986 года Рейган встретился с советским лидером Михаилом Горбачевым в Рейкьявике, и они были поразительно близки к соглашению об отмене всего ядерного оружия до того, как переговоры сорвались. Закладка выполнена. 8 декабря 1987 года в Вашингтоне подписали Договор о ликвидации ракет средней и меньшей дальности. Оно сделало то, чего раньше не делало ни одно соглашение о контроле над вооружениями: оно ликвидировало целый класс вооружений, а не ограничивало их численность. Каждая баллистическая и крылатая ракета наземного базирования с дальностью полета от 500 до 5500 километров должна была быть уничтожена, и к 1991 году около 2 692 из них были уничтожены.
Николас Мейер, который поставил На следующий день, После подписания договора до него дошли слухи, что его фильм сыграл в нем какую-то роль. Президент наблюдал за изображением того, что он мог вызвать, записал, что это потрясло его, и продолжил подписывать договор, который отменил категорию оружия, которое могло бы его вызвать.
Чему это учёт и где параллель рушится
Для любого, кто работает над предотвращением катастрофы от искусственного суперинтеллекта, обнадёживающая половина этой истории реальна. Опасность, которая казалась далёкой и технической, стала конкретной, и политика сдвинулась. Серьёзные ограничения на грозную технологию возможны; мы видели, как договор уничтожил целый класс оружия под проверяемым контролем. Тем, кто утверждает, что соперничающие державы никогда не согласятся связать себя, придётся объяснять 1987 год.
Предупреждение именно в этом различии, и оно острое. Все источники страха, сделавшие ядерную войну реальностью, появились уже после. Хиросима и Нагасаки уже произошли. Мир прожил под бомбой четыре десятилетия. Даже На следующий день была драматизацией категории событий, которые человечество уже в меньшем масштабе пережило. Урок пришёл из выживания.
Искусственный сверхинтеллект не даёт такого наставника. Нет Хиросимы, на которую можно указать, нет зернистых кадров, нет выживших для интервью, потому что тот сценарий отказа, которого мы опасаемся, может не оставить второго шанса. Если неуправляемый сверхинтеллект создадут раньше, чем решат проблему его контроля, не будет «дня после», чтобы о нём рассказать. Фильм, который мог бы нас предупредить, не успеют снять, потому что его можно снять только после, а после уже не будет.
Так что задача сложнее, чем та, с которой столкнулся Рейган, и она указывает в одном направлении. Теперь дело должно стать ярким, опираясь на аргументы и предвидение, а не на обломки, и оно должно закончиться предупреждением, а не управлением. Контроль над ядерными вооружениями может стать историей восстановления. Реакция на сверхразум не может быть. Фонд выступает за a Подтвержденный международный запрет Построение суперинтеллекта постоянно. Суперинтеллект нельзя контролировать, поэтому все усилия направлены на годы до опасности, а не на годы после. После этого не будет много лет.