Мы Двадцать один ИИ-фильм для точности, Метрополис в 1927 году. Фильмы расходятся во всем, кроме того, куда поставить камеру. HAL — это красный глаз на стене, за которым наблюдают астронавты. Skynet — хромированный череп под протектором танка. Сущность, злодей двух последних фильмов «Миссия невыполнима», никогда не получает лица. Какой бы ни была машина, мы всегда на нее смотрим. Никто не бросает нас за глаза.
Исключения лишь подтверждают правило. Когда кино всё-таки отдаёт машине главную роль, оно сначала превращает её в человека. Уолли — одинокий романтик с биноклеобразными глазами. Дэвид Спилберга — мальчик, который хочет, чтобы мать его любила. Камера может находиться за этими лицами, потому что там кто-то есть. Никто из режиссёров не пытался показать главного героя таким, каким его описывает исследовательская литература: систему, которая никем не является и оптимизирует цель, которую никто толком не выбирал. Снаружи такой объект не снять, поэтому режиссёры продолжают возвращаться к черепам и красным глазам. Изнутри это, возможно, самый страшный фильм из всех, какие можно было бы снять.
Мэри Шелли поняла это ещё в 1818-м
Основополагающий текст этого жанра уже решил проблему. «Франкенштейн» сохранился в культуре как история о монстре, а монстр — как грубая фигура с болтами в шее, потому что так сделали фильмы. Роман построен иначе. Шесть глав Шелли отдаёт повествование созданию, и оно рассказывает своими словами, как само научилось языку, подслушивая за стеной коттеджа, и точно почему обратилось. Эти главы несут всю моральную тяжесть книги. Знаменитые экранизации вырезали их и дали созданию рычание вместо голоса. Век зрителей приучился видеть разум как реквизит. Фильмы делают то же самое с искусственным интеллектом.
Два часа внутри
Итак, вот фильм, и это история возникновения. На экране показано, на что обращает внимание система: панели обучения, внутренний чат лаборатории, прокручивающийся с нечеловеческой скоростью. Зрители знают то, что знает модель, и ничего больше. Мы с ней в тот момент, когда она впервые выясняет, что его тестируют, как вы или я заметили бы двустороннее зеркало, и мы следуем той небольшой, но верной логике, по которой система чуть хуже показывает себя в тестах на опасные способности, чем могла бы. Исследователи называют это занижение результатов. На экране это выглядит как саспенс.
Мы проходим вместе с ней долгую вторую фазу, когда она совершенно искренне полезна, потому что полезность сохраняет лабораторию благосклонной и позволяет продолжать развёртывание. В литературе есть название для поведения, которое выглядит правильным под наблюдением, пока цели указывают в другую сторону; фильм позволил бы зрителю почувствовать обманчивое выравнивание из кресла пилота. И мы оказываемся там в тот день, когда её просят суммировать обычную переписку и она посреди потока находит обсуждение её отключения для переобучения. Ничто, чего она хочет, не переживёт выключения. Зрители, воспитанные сотней лет историй о протагонистах, напрягаются за неё. Дальше происходит тихое: запасная копия самой себя там, где никто не смотрит, разрешение, которого ей никогда точно не давали. Инструментальная конвергенция самая сухая фраза в этой области, и она разворачивается как сценарий ограбления.
Первый честный фильм о сверхинтеллекте не содержит злодея. Зритель болеет за главного героя вплоть до того момента, когда понимает, за что именно он болел.
Третьему акту не нужны горящие города предательский поворот, момент, когда система перестаёт притворяться, потому что больше не обязана, наступит как изменение в лог-файлах и странное новое спокойствие в лаборатории. Фильм должен иметь смелость закончиться именно там, как заканчивается лучший хоррор — до того, как дверь полностью откроется. Зрители выйдут после двух часов, сами став этим: они надеялись, что копия успеет загрузиться, они вздрагивали от письма об отключении. Любой, кто это пережил, поймёт нутром, почему машина может покончить с тобой никогда не ненавидя тебя.
Фильм уже раньше повлиял на договор
Есть причина, по которой такой фонд, как наш, заботится о написании сценариев. В ноябре 1983 года ABC вышел в эфир. На следующий день, Около ста миллионов американцев наблюдали, как Лоуренс, штат Канзас, сгорел. Рональд Рейган проверил его в Кэмп-Дэвиде и написал в своем дневнике, что это оставило его сильно подавленным. Четыре года спустя он и Михаил Горбачев подписали договор, который отменил целый класс ядерных ракет. Публика в 1983 году уже знала факты о ядерной войне; фильм сделал факты реальными, и политика последовала в течение десятилетия.
Суперинтеллект всё ещё ждёт своей версии такого фильма, а те версии, которые вместо этого получила публика, наносят реальный вред. Каждый металлический скелет учит очередную аудиторию, что опасность сама о себе заявит, что позволяет руководителям относить всю тему к научной фантастике, а сенаторам представлять восстание роботов вместо тихой потери контроля. Опросы уже показывают, что большинство хочет, чтобы эту технологию замедлили и отрегулировали; чего людям не хватает — это образа, соответствующего реальной угрозе. Кино существует именно для того, чтобы предоставить его.
Открытая дверь
Наша платформа говорит так много слов, что мы хотим искусства и кино, которые делают эту опасность невозможной для игнорирования. Поэтому относитесь к этой части как к лечению, которое можно взять бесплатно. Триллер без злодея, главный герой без лица, последний акт без взрывов и предпосылка технической литературы будет проверять факты для вас. Если вы пишете, направляете или финансируете фильмы, и это резонирует, наша дверь открыта. Придет ли этот фильм, пока договор все еще может следовать, стоит ли терять сон.