Если мы перестанем строить суперинтеллект, это сделает кто-то другой. Это собеседник в сотне комнат. Это похоже на географию и теорию игр. Часто это способ сохранить строительство, называя его неизбежным. Попробуйте ту же форму с технологией, которую мы уже использовали. Если мы перестанем делать холодильники с ХФУ, кто-то другой просто продолжит делать холодильники.
Да, они продолжали делать холодильники и перестали использовать химикат, который открывал дыру в небе.
Два разных существительных
Холодильник — это услуга: холодная еда, вакцины, меньше порчи. Хлорфторуглероды были одним из способов получить эту услугу, и катастрофическим для озонового слоя, когда химия стала ясна Монреальский протокол Не запрещает холод. Он запланировал поэтапный отказ от веществ, наносящих ущерб, финансировал альтернативы для более бедных стран и поддерживал сделку с торговым давлением. Промышленность заявила, что поэтапный отказ невозможен; холодильное оборудование продолжается, а ХФУ нет.
Риторика суперинтеллекта сжимает два существительных в одно. «ИИ» становится одной каплей, которая включает в себя модели рака, планировщики маршрутов и гипотетический агент, умнее человеческого вида. Если вы откажетесь от последнего пункта, говорят акселерационисты, вы отказались и от первого, и кто-то менее скрупулезный отгрузит все это. Этот шаг состоит в том, чтобы сделать вид, что яд идентичен продукту, так что удаление яда звучит как война с продуктом.
Мы не спасли озоновый слой, используя больше ХФУ, чем наши конкуренты. Мы сохранили холодильник и удалили химикат.
Для чего нужно «кто-то другой сделает»
Соперничающая лаборатория или конкурирующее государство могут попытаться тренироваться по любой линии, которую вы проводите. Эта возможность вполне реальна для планирования. Также была изобретена возможность контроля над вооружениями. Ответ на вопрос «кто-то другой может создать ядерную бомбу» был не таким: «тогда мы должны создать еще большую ядерную бомбу». Это была проверка, удушающие точки на расщепляющемся материале и последствия для прорыва.
Вычислительные мощности сложнее урана, и никто серьёзный этого не отрицает. Тем не менее они физичны, дороги на передовом уровне и проходят через короткий список производителей чипов, фабрик и облачных регионов. Этого достаточно, чтобы выстроить на этом инспекции, поэтому управление вычислениями фигурирует в каждом серьёзном наброске договора. «Кто-то другой сделает» пропускает эту работу и сразу переходит к разрешению.
Если сдержанность оформляется как односторонняя капитуляция, то единственная поза взрослого человека — полная скорость. Инвесторы слышат судьбу. Сотрудники службы безопасности слышат, что замедление является наивным. Руководителям лабораторий не нужно выигрывать дебаты о механизмах. Им нужно только сделать третий вариант, разделять сдержанность, чувствовать себя по-детски.
Холодильник никогда не был врагом
Мы хотим узкий ИИ, который ставит диагнозы, разрабатывает лекарства и находит дефекты в мостах. Скажите это прямо, чтобы клевета не прилипла. Позиция фонда — отказ строить системы, которые превосходят и заменяют человеческий контроль пока проблема контроля не решена.
Это ближе к «использовать другие хладагенты», чем к «запретить холодное хранение». Те, кто стирает разницу, прикрывают популярностью полезного ИИ способность, которая не останется инструментом.
Чему на самом деле учит борьба за озон
Монреаль работал, потому что наука стала громкой, существовали заменители, и противники столкнулись с торговыми издержками. Суперинтеллект труднее заменить «стратегическим доминированием», и легче в одном отношении игнорировать лидеров ИИ: Ни одна крупная держава не имеет последовательного интереса. в системе, которая не подчиняется никому. Общая уязвимость является сырьем сделки. Конкурирующий страх может финансировать договор так же легко, как он финансирует спринт., Как только полая отделка видна.
Спросите, имеют ли они в виду полезный ИИ или суперинтеллект: мы храним инструменты и останавливаем систему, которую никто не может контролировать. Для суперинтеллекта риск дезертирства является причиной для усиления правоприменения, а не причиной для предефектирования. Холодильники продолжали работать. Небо исцелилось, потому что люди могли видеть разницу.