Около 36 тысяч лет назад в пещере над речным каньоном на месте нынешней южной Франции человек прижал ладонь к холодному известняку и сдул на неё цветной порошок. Скала сохранила отпечаток. Он до сих пор там, в темноте Шове.
Мы ничего не знаем об этом человеке. Ни имени, ни того, любил ли их кто-нибудь. Мы знаем, что они были холодными, и что они провели часть короткой жизни, делая вещь, которая не кормила бы их, в темноте, так что это все равно было бы там, когда кто-то пришел. Они положили руку на стену за незнакомца, который еще не родился. Этот незнакомец прибыл тридцать шесть тысяч лет спустя.
Ничего из этого прибытия не было гарантировано. У всех живущих вместе людей все еще меньше генетического разнообразия, чем у шимпанзе в нескольких соседних лесах, потому что наши предки когда-то сокращались, пока выжившие не могли поместиться в маленьком городке. Мы были редкой обезьяной с хорошими руками.
Первые десять тысяч поколений
Огонь, затем язык. Потом открытие, что семя, посаженное намеренно, даёт урожай. Около двенадцати тысяч лет назад люди перестали следовать за стадами и начали ждать урожая, а значит — оседать, а значит — строить города.
В Уруке, около 3200 года до нашей эры, кто-то нажал нарезанный тростник во влажную глину, чтобы записать количество ячменя. Для этого и было написано: храму нужно было считать зерно. Примерно через тысячу лет люди использовали те же знаки, чтобы написать стихотворение о короле, который не мог принять, что его друг умер. Город и язык исчезли, а поэма все еще читаема.
Около 300 года до нашей эры в Александрии Евклид доказал, что не существует наибольшего простого числа. Доказательство остаётся верным. Оно будет верным всегда, на любой планете, в любом веке. Ничто другое, созданное этим городом, не сохранилось в целости: библиотека исчезла, гавань занесло илом, язык, на котором спорили, остался лишь у специалистов. Доказательство прошло сквозь время нетронутым, потому что оно было построено на рассуждении, а рассуждение не подвержено гниению.
Работа переместилась. В девятом веке в Багдаде аль-Хорезми написал книгу, давшую нам слово «алгебра», а около 1020 года Ибн аль-Хайсам завершил исследование оптики, опиравшееся на принцип, за который пришлось бороться: если хочешь понять, истинно ли утверждение о мире, — проверь его.
Ренессанс и дыра в крыше
С 1347 по 1351 год чума уничтожила примерно треть населения Европы. Не треть армии. Треть всех людей. Деревни затихли и так и остались пустыми, а выжившие хоронили родных собственными руками.
А потом выжившие принялись искать прошлое. В 1417 году папский секретарь Поджо Браччолини, оставшийся без работы во время схизмы, отправился в немецкий монастырь и нашёл последнюю копию римской поэмы, пролежавшей в темноте тысячу лет. Именно в этом и заключался Ренессанс под всеми его картинами: люди, только что пережившие гибель половины мира, решили спасти то, что едва не было утрачено, а потом приумножить это.
Флоренция пошла дальше. Собор начали строить в 1296 году по плану, где купол должен был быть шире всего, что возводили со времён Рима, а как его сделать, никто тогда не знал. Поэтому церковь построили, а отверстие оставили. Десятилетиями в крыше зияла дыра размером с квартал, открытая непогоде, потому что город поставил на то, что человек, ещё не родившийся, придумает, как её закрыть.
Филиппо Брунеллески получил заказ в 1418 году. Он изобрёл подъёмники раньше, чем начал поднимать камень. Он уложил более четырёх миллионов кирпичей по ёлочной спирали, которая держала себя сама по мере роста, без деревянных лесов, а в 1436 году закрыл отверстие. Сегодня туда можно подняться.
Флоренс оставила дыру в крыше и доверилась будущему, чтобы закрыть ее. Если бы Брунеллески потерпел неудачу, Флоренция потеряла бы собор. Город вокруг него продолжал бы жить. Никто не стоял под этой дырой.
Это близко к истории, которую индустрия ИИ рассказывает о себе. Оставьте твердую часть открытой, доверьтесь, что кто-то блестящий придет вовремя. Разница в том, что находится под отверстием. Неудавшийся купол стоит городу его собора. Мы предлагаем оставить дыру открытой над всеми.
Остальное пришло быстро. Печатный станок Гутенберга в 1450-х позволил мысли обогнать её носителя. В одном 1543 году Коперник сдвинул Землю из центра мироздания, а Везалий вскрыл человеческое тело и нарисовал то, что там действительно было, — оба противоречили авторитетам, не подвергавшимся сомнению четырнадцать веков.
Век, когда мы перестали хоронить своих детей
В 1800 году почти четверо из каждых десяти детей умирали до своего пятого дня рождения. Не только в бедных странах. Повсюду. Именно это значило иметь детей в любом обществе на протяжении всей истории нашего вида до примерно шести поколений назад. Сегодня — меньше одного из двадцати пяти.
На это ушло время от вакцины Дженнера в 1796 году. Утро 16 октября 1846-го, когда бостонский стоматолог усыпил пациента и хирургия перестала быть пыткой на живом человеке, которого держат сильные мужчины. Семмельвейс, который в 1847-м понял, что врачи переносят смерть из прозекторской в родильное отделение на немытых руках, и умер в лечебнице, пока профессия всё ещё отказывалась его слушать.
И для этого потребовалось уничтожение оспы — болезни, оставившей следы на лице фараона и унёсшей, возможно, триста миллионов жизней только в XX веке. Последним человеком, заразившимся ею естественным путём, стал больничный повар из Сомали по имени Али Маов Маалин в октябре 1977 года. Он выжил. Остаток жизни он посвятил вакцинации сомалийских детей от полиомиелита и умер от малярии в 2013 году, продолжая эту работу.
Оспа убивала людей со времен фараонов. Затем люди вытеснили его с земли навсегда, вручную, вакцинируя одну руку за раз, через каждую границу и через активные войны. Эта концовка не пришла сама по себе, и она не была свободной, и почти все, кто делал работу, были мертвы задолго до последнего случая.
Те времена, когда мы едва не закончили всё
В 1945 году мы стали достаточно умными, чтобы уничтожить себя, и с тех пор живём с этим.
27 октября 1962 года советская подводная лодка у берегов Кубы потеряла радиосвязь, подверглась американским глубинным бомбам, и её капитан решил, что война началась. Торпеда на борту несла ядерную боеголовку, и для её пуска требовалось согласие трёх офицеров. Василий Архипов сказал «нет», пока корпус сотрясался вокруг него. Двадцать один год спустя Станислав Петров увидел на советском экране сообщение о пяти американских ракетах, летящих в сторону СССР, и доложил начальству, что это сбой. Это было отражение солнца от высоких облаков.
Дважды, по крайней мере, все еще живые сходили к одному усталому мужчине в кресле, решив не передавать сообщение. Мы узнали их имена несколько десятилетий спустя.
Мы тоже сделали выбор. В 1972 году мир запретил биологическое оружие. В 1987 году все страны Земли подписали Монреальский протокол, Это первый договор в истории Организации Объединенных Наций, который получил всеобщую ратификацию, и озоновый слой восстанавливается по графику. Человечество посмотрело прямо на способность, которую оно было в состоянии построить. Нет, вместе, в письменной форме, с инспекторами.
Сто семнадцать миллиардов
Бюро по проблемам народонаселения оценивает число людей, когда-либо родившихся, примерно в 117 миллиардов. Каждый из них стоит выше вас по течению.
Женщина похоронила четверых детей и встала на следующее утро. Монах, копирующий язык, который он только наполовину понимал, потому что альтернатива позволяла ему исчезнуть. Масоны Брунеллески, в ста футах от них ничего нет. Повар в Сомали с иглой и холодным ящиком, идущий в соседнюю деревню. Они протянули его вперед, по большей части не имея представления о том, к чему они его направляют.
И несколько компаний решили, что правильное дело — это гоняться друг за другом. ум, который превосходит каждого человека во всем, по графику, установленному раундами финансирования. В мае 2023 года их лидеры назвали свое имя заявлением, в котором вымирание ИИ наряду с пандемиями и ядерной войной является глобальным приоритетом. Они писали о собственном продукте, публиковали его и не замедляли.
Искусственный суперинтеллект — это то, что небольшое количество хорошо финансируемых людей предпочитают строить, в гонке никто из них не может описать финишную черту. Это может быть запрещено так, как мы запретили другие вещи, которые мы могли бы построить и не сделали: обязательный, независимо проверенный международный запрет, постоянно удерживается. Суперинтеллект не может контролироваться людьми. Пауза, которая истекает через шесть месяцев, просто возобновит ту же гонку.
Я хочу будущее, и как можно скорее. Узкий ИИ уже Доставка лекарств и чистой энергии, Под контролем человека, без создания ума, который превосходит наш вид.
Никто не обещал нам, что человечество продолжится. 117 миллиардов человек, стоящих за нами, тоже не получили этого обещания. Каждый из них прожил долгие годы и умер вместе с другими людьми, которые все еще здесь. Что было бы непростительным, так это то, что это поколение держит мир, в котором остались эти люди, наблюдая за тем, как строители в письменном виде ставят вымирание рядом с ядерной войной, а затем позволяют тем же самым компаниям строить сверхинтеллект, который они не могут контролировать.
Мы пережили чуму, а потом пошли и перестроили библиотеку. Мы положили руку на стену в темноте, чтобы кто-то нашел ее, а кто-то нашел. Мы зашли слишком далеко, чтобы умереть от запуска продукта: лаборатория отправляет суперинтеллект, который она не может контролировать.
Не создавайте искусственный сверхразум. Тогда продолжайте строить остальное: лекарство, энергию, долгую работу, которая остается в руках человека. Ничто из этого никогда не нуждалось в уме, который превосходит наш вид.