В 2016 году типичные догадки экспертов вывели ИИ человеческого уровня на десятилетия вперед. К середине 2020-х годов крупные опросы и руководители лабораторий перенесли эти даты вперед, иногда в рабочую жизнь людей, читающих это. Даты все еще неясны, и пересмотры начались раньше.
Что на самом деле показывают опросы прогнозов
Самые систематические данные по срокам искусственный общий интеллект поступают от AI Impacts, которая уже несколько лет опрашивает исследователей ИИ о том, когда они ожидают «машинного интеллекта человеческого уровня» (примерно эквивалент искусственный общий интеллект). Результаты показательны.
В 2016 году опрошенные исследователи оценивали медианную вероятность появления HLMI примерно в 50 % к 2061 году. К 2022 году, ещё до публичного выхода GPT-4, эта медиана уже заметно сдвинулась на более ранний срок. Исследователи, дающие такие прогнозы, — это люди, которые строят предсказываемые системы, а не пророки или пиарщики.
В данных нет согласованной целевой даты, но сходящееся окно с малым согласием по точному году. Паттерн в том, что каждый новый опрос (калиброванный по реальным разработкам возможностей) даёт более короткие сроки, чем предыдущий.
Четыре года. От текста, который едва держался вместе, до результатов в верхнем дециле человеческих экспертов по стандартизированным показателям профессиональной компетенции. Именно на этом эмпирическом опыте нужно калибровать прогнозы по срокам.
Что говорят люди, создающие ИИ
Публичные заявления руководителей фронтирных ИИ-лабораторий — это не то же самое, что их внутренние рабочие предположения. Но они всё равно примечательны, потому что публичные заявления людей на таких позициях обычно консервативны, ограничены отношениями с инвесторами, регуляторным надзором и профессиональной нормой осторожности в отношении экстраординарных утверждений.
«Теперь мы уверены, что знаем, как создать искусственный общий интеллект в традиционном понимании».
Сэм Альтман, генеральный директор OpenAI · Январь 2025
«Я думаю, мы можем оказаться всего в нескольких годах (а может, и раньше) от ИИ, который превзойдёт человеческий интеллект по всем параметрам».
Дарио Амодеи, CEO Anthropic · эссе «Machines of Loving Grace» · октябрь 2024
Это продуманные публичные заявления людей, принимающих решения об инвестициях на основе внутренних прогнозов, которые почти наверняка короче тех, что они публикуют, а не слова тех, кто считает сверхразум отдалённой перспективой.
Когда компания тратит десятки миллиардов долларов на ИИ-инфраструктуру, исходя из внутреннего предположения, что трансформативный ИИ уже близок, таймлайн становится операционно реальным, независимо от того, что говорит PR-команда о неопределённости.
Почему дата менее важна, чем распределение
Естественная реакция на обсуждение сроков искусственный общий интеллект — сосредоточиться на конкретной дате: 2027? 2030? 2040? Такое framing понятно, но вводит в заблуждение. Вопрос, важный для управления, не «когда именно?», а «какова вероятность, что искусственный общий интеллект появится в пределах горизонта планирования наших нынешних институтов?»
Рассмотрите, что на самом деле требует создание адекватного управления сверхразум:
- Международные договорные переговоры обычно занимают несколько лет от начала до подписания
- Ратификация и реализация международных соглашений занимает дополнительные годы
- Техническая инфраструктура для верификации и мониторинга должна быть спроектирована, профинансирована и развёрнута
- В ведущих странах-разработчиках ИИ необходимо принять национальное законодательство
- Для фреймворков управления вычислениями требуются механизмы отраслевого соответствия, выстраиваемые со временем
Даже при чрезвычайной политической воле создание с нуля полноценной международной системы управления сверхразум требует минимум пяти-десяти лет. Если вероятность появления искусственный общий интеллект в течение десятилетия нетривиальна (а данные указывают именно на это), то управление, которое начнётся после того, как искусственный общий интеллект станет «явно неизбежным», не успеет завершиться.
Это уже актуальная проблема. Окно возможностей для управления не безгранично и не статично. Оно сужается.
Асимметрия, которая делает это решение лёгким
Здесь есть асимметрия двух типов ошибок. Если мы построим надёжные рамки управления сверхразум, а искусственный общий интеллект окажется дальше, чем ожидалось, цена — потраченные усилия, некоторое регуляторное трение для разработки ИИ и набор международных институтов, готовых к моменту, когда он наступит. Если мы будем ждать уверенности в сроках, прежде чем строить управление, и искусственный общий интеллект придёт раньше, чем управление будет создано, цена может оказаться невосполнимой.
Эта асимметрия та же, что побудила к ядерному управлению до распространения оружия, защите озонового слоя до его разрушения и подготовке к пандемиям до следующей вспышки. В каждом случае институты, созданные в условиях неопределённости, доказали свою ценность, когда предсказанный сценарий материализовался.
«У человечества плохой послужной список по созданию институтов задним числом, когда их нужно было предвидеть и строить заранее».
Йошуа Бенджио, лауреат премии Тьюринга и Нобелевской премии · 2024
Аргумент за действия сейчас не зависит от веры в самые агрессивные сроки искусственный общий интеллект. Он зависит только от серьёзного отношения ко всему спектру правдоподобных оценок (включая более короткие) и соответствующей реакции на эту неопределённость через надлежащие меры управления.
Что будет после искусственный общий интеллект
искусственный общий интеллект — порог беспокойства, а не конечная точка. Система, достигшая человеческого уровня когнитивных способностей во всех областях, способна улучшать собственную конструкцию и рекурсивно самоусовершенствоваться, что может сжать срок от искусственный общий интеллект до искусственный сверхинтеллект в месяцы, а не десятилетия.
Именно этот сценарий побудил самые серьёзные предупреждения исследователей, ближе всех стоящих к технологии. Не искусственный общий интеллект сам по себе, а динамика, которая может последовать за искусственный общий интеллект, включая возможность перехода от управляемой системы к неуправляемой быстрее, чем человеческие институты успеют отреагировать.
Вывод для управления прям: рамки должны быть созданы до пересечения порога искусственный общий интеллект, а не после. Время вести переговоры — сейчас, пока все стороны ещё движутся к порогу и никто его не пересёк. Три политических предложения Фонд Накада разработаны именно для этого окна.
Точечные прогнозы были ошибочными и раньше. Переносимым фактом является направление пересмотра и асимметрия опоздания: учреждениям нужны годы; возможности могут прыгать по кварталам. Постройте рамки, пока порог еще впереди.