Справочный документ · 2026
Научный консенсус
о рисках ИИ
Люди, которые создали искусственный интеллект, предупреждают нас.
"Я думаю, вполне допустимо, что человечество — лишь преходящая фаза в эволюции интеллекта."Джеффри Хинтон Нобелевская премия по физике 2024 · Премия Тьюринга 2018
Бывший вице-президент и инженерный феллоу, Google · 2023
«Я чувствую растерянность относительно того, что нам делать, чтобы всё сложилось хорошо, учитывая мощные силы, толкающие нас к ускоренному развёртыванию ИИ без достаточных гарантий.»Йошуа Бенжио Нобелевская премия по физике 2024 · Премия Тьюринга 2018
Научный директор, Mila · 2023
«Стандартная модель ИИ, где вы определяете цель, а ИИ оптимизирует её, скорее всего приведёт к нашему концу.»Стюарт Рассел Профессор информатики, UC Berkeley
Соавтор стандартного учебника по ИИ
"Я всё больше убеждаюсь, что эта проблема может стать важнейшей в нашем веке, независимо от того, решаема ли безопасность ИИ и в какие сроки."Илья Суцкевер Сооснователь, OpenAI · Главный научный сотрудник 2015-2024
Один из архитекторов современного глубокого обучения
"Мы создаём одну из самых transformative и потенциально опасных технологий в истории человечества, но, похоже, не можем нажать на паузу."Йошуа Бенжио Лауреат Нобелевской премии · Mila · 2023
"Безопасность ИИ важнее изменения климата."Джеффри Хинтон Лауреат Нобелевской премии · Бывший Google
Заявление глобальной платформы, 2024
Хронология эскалации предупреждений экспертов
2014
Ник Бостром публикует Суперинтеллект, первый строгий академический анализ экзистенциального риска от искусственного сверхинтеллекта. Оксфордский философ. Цитируется Илоном Маском и Биллом Гейтсом как обязательное чтение.
2018
Хинтон, Бенджио и ЛеКун получают премию Тьюринга за основание современного глубокого обучения. Все трое впоследствии поднимают вопросы безопасности относительно созданной ими технологии.
2023
Center for AI Safety публикует заявление о риске вымирания. Его подписывают более 500 учёных. Отдельно открытое письмо Future of Life Institute с призывом к паузе в разработке собирает более 33 000 подписей, включая лауреатов премии Тьюринга.
2024
Хинтон и Бенджио получают Нобелевскую премию по физике. Оба используют глобальную трибуну, чтобы усилить предупреждения о безопасности ИИ. Хинтон заявляет, что безопасность теперь «важнее изменения климата».