Это продолжение Часть 1. Почему в безопасности ИИ так мало денег?, и именно поэтому в этой области так мало средств. Вопрос в том, как довести бюджет до миллиарда долларов в год.
Начните с того, где вещи действительно стоят. Часть 1 Каждый благотворительный грант, каждая государственная программа безопасности и каждый доллар, который пограничные лаборатории тратят на свои собственные команды по безопасности, составили в общей сложности около 190 миллионов долларов в год. Вопреки этому, мир вкладывает около 1 триллиона долларов в год, чтобы сделать ИИ более способным, и эта цифра продолжает расти. На каждую тысячу долларов, потраченных на то, чтобы сделать эти системы более мощными, меньше доллара тратится на то, чтобы сделать их безопасными.
Миллиард долларов в год начал бы менять эту арифметику, и сумма меньше, чем кажется. Это меньше двух дней того, что отрасль уже тратит на развитие возможностей. Это около одной десятой процента оборонных расходов США. Это десятая часть того, что ежегодно перемещает климатическая филантропия, а климатическую филантропию не считают чрезмерно финансируемой. Что бы ни значил миллиард долларов, это не крупная сумма для проблемы, которую сами создатели технологии сравнивали — письменно и под своими именами — с пандемиями и ядерной войной.
Таким образом, причина голода в этой сфере не в том, что миллиард долларов трудно найти. Мир уже тратит во много раз больше в нескольких шагах, по другую сторону тех же офисных зданий. Деньги есть. Не хватает решения переместить часть из них.
Деньги уже существуют. Мир тратит столько на усиление ИИ примерно раз в полтора дня. Не хватает лишь воли направить хотя бы часть этих средств в другую сторону.
Миллиард — это минимум
Почему миллиард, а не триста миллионов? Потому что ниже примерно этой черты сфера может позволить себе делать только одно дело за раз. При 190 миллионах долларов цифры вынуждают к жёсткому отбору. Технические исследования и оценка моделей поглощают около двух третей всех средств. На advocacy (работу по побуждению правительств и компаний действовать на основе полученных результатов) приходится около пяти процентов — порядка 10 миллионов долларов в год, меньше, чем одна крупная технологическая компания тратит на лоббирование в одной столице. Миллиард долларов положил бы конец этому отбору. Он позволил бы сфере безопасности платить конкурентоспособные зарплаты специалистам, которых сейчас поглощают лаборатории, диверсифицировать область, зависящую от одного доминирующего фонда, и финансировать политическую работу, меняющую результаты, а не просто документирующую их.
А миллиард в год — скромная сумма по любым историческим меркам, которые подходят. Проект «Геном человека» обошёлся примерно в 3 миллиарда долларов и считается одним из лучших государственных вложений Соединённых Штатов за всю историю. По сравнению с риском, который сами создатели ставят в один ряд с ядерной войной, миллиард долларов в год — не щедрая цифра. То, что мы вообще спорим о её приемлемости, и есть странная часть.
Ликвидация оспы обошлась примерно в 300 миллионов долларов за всю тринадцатилетнюю кампанию — меньше трети одного года от обсуждаемой здесь цели. С 1980 года эта единовременная трата ежегодно экономит миру более миллиарда долларов, а одна только Соединённые Штаты возвращают свою долю первоначальных затрат примерно каждые двадцать шесть дней.
Снижение риска цивилизационного масштаба почти всегда оказывалось одним из самых дешёвых действий в истории, если мерить по возвращаемым результатам.
Откуда на самом деле берётся миллиард
Ничего из этого не требует нового изобретения или необычайной щедрости. Нужно лишь одновременно задействовать четыре обычных источника. Любые два из них, применённые всерьёз, позволяют достичь цели.
| Источник | Правдоподобно в год |
|---|---|
| Диверсифицированная филантропияСегодня один фонд даёт больше половины всех филантропических денег на безопасность. Для сравнения: климатическая филантропия ежегодно распределяет более 10 миллиардов долларов среди многих доноров. Один эндаумент в 20 миллиардов приносит миллиард в год только на процентах; чтобы набрать десятую часть климатического объёма, нужно, вероятно, пять–десять серьёзных спонсоров. | $300M |
| Бюджеты правительства на безопасностьИнституты безопасности уже существуют в UK, US и других странах. US тратит около 47 миллиардов долларов в год на Национальные институты здравоохранения; одного процента от этой суммы хватит почти на полмиллиарда на усилия по безопасности ИИ. | $300M |
| Отраслевой сбор на вычисленияФармацевтические фирмы финансируют примерно три четверти обзора лекарств FDA за счет сборов пользователей; ядерная промышленность финансирует почти весь свой регулятор. Четыре десятых процента на границе вычислительной и инфраструктурной инфраструктуры, которую ИИ уже покупает (около 1 триллиона долларов в год), сами по себе увеличивают весь миллиард. | $300M+ |
| Перенаправленный благотворительный капиталФонды, рекомендованные донорами, уже держат более 200 миллиардов долларов, выделенных на благотворительность, но ещё не потраченных. Университетские эндаументы и растущая инфраструктура эффективного альтруизма добавляют ещё больше. Здесь речь идёт о перераспределении, а не о создании нового богатства. | $100M |
| Всего | ~$1B+ |
Третья строка — самая важная, потому что это единственный источник, который не зависит от чьей-либо доброй воли. Филантропия может исчезнуть, когда донор передумает, как показала отрасль, когда её главный спонсор сократил гранты на техническую безопасность более чем вдвое за два года. Государственные бюджеты меняются с выборами. Законодательный сбор с отрасли, которая получает прибыль от создания риска, устойчив, соразмерен и имеет полные прецеденты. Именно так мы оплачиваем надзорные органы в медицине, авиации и атомной энергетике. Привязать небольшую долю финансирования безопасности к вычислительным мощностям, создающим опасность, — естественное продолжение аргумента в пользу управление вычислениями.
Деньги начинают быстро двигаться, как только риск становится понятным
История здесь однозначна. Когда опасность становится очевидной для общества и правительств, деньги появляются с такой скоростью, что нынешняя trickle выглядит выбором, а не ограничением. Вещества, разрушающие озоновый слой, были выведены из оборота по Монреальский протокол, чей фонд впоследствии направил миллиарды долларов, чтобы сделать переход возможным в бедных странах. Когда пришла COVID, мир за месяцы запустил разработку вакцин на десятки миллиардов долларов. Оспа, озон, полиомиелит: в каждом случае ограничением никогда не были деньги. Ограничением было признание.
Безопасность ИИ ещё не получила своего момента признания, и причина этому структурная, а не финансовая. Вред, о котором она предупреждает, ещё не произошёл. Нет пациентов, нет затопленных городов, нет скорбящих семей, которые могли бы придать этому лицо, и если работа увенчается успехом, их никогда не будет. Риск без сторонников не имеет никого, кто мог бы надавить на тех, кто подписывает чеки. Лучшая таблица не решит эту проблему.
Это проблема мобилизации
Это значит, что путь к миллиарду долларов — это не столько план по сбору средств, сколько план сделать риск достаточно понятным, а серьёзное отношение к нему — достаточно престижным, чтобы деньги пришли сами, как всегда бывало. Эта работа идёт по трём направлениям.
Сделайте это видимым. Угроза, которую люди могут представить, — это угроза, на которую они дадут деньги: журналистика, кино, данные и публичная аргументация, превращающие абстрактную вероятность в нечто, что законодатель или донор сможет почувствовать, — та же культурная основа, что предшествовала серьёзным средствам на климат и контроль над ядерным оружием.
Сделайте это престижным. Когда нобелевские лауреаты, бывшие главы государств и уважаемые общественные деятели называют проблему серьёзной, за ней начинают двигаться и нормы, и деньги. Научный консенсус по рискам ИИ уже существует. Не хватает лишь общественного разрешения людям с влиянием и ресурсами действовать открыто.
Сделайте это обязательным. Добровольная отдача, усиленная, может довести поле до трех-четырехсот миллионов в год. Полный миллиард (и, более того, его выживание после смены сердца любого донора) проистекает из закона: сбор, статья, договорное обязательство. Фонд направляет свою деятельность на обязательные правила и не только в убеждении. Щедрость приветствуется, но на ней нельзя строить стратегию.
Так что оставьте мысль, будто миллиард долларов в год — это амбициозный вариант серьёзного отношения к проблеме. Это минимальный вариант. Это меньше двух дней того, что мы уже тратим, чтобы проблему усугублять, и малая доля того, что однажды стоило искоренить болезнь, убивавшую людей три тысячи лет. Сумма не пугает. По-настоящему не хватает решения относиться к риску такого масштаба так, будто мы верим собственным предупреждениям.
Это решение принимается в общественное давление, В том, что правительства слышат от людей, которым они отвечают, и в том, достаточно ли мы относимся к этому как к приоритету, о котором говорит наука.
Но сопоставьте эту цифру с тем, что мир уже тратит на создание технологии, или с тем, что человечество раньше тратило на опасности, которые решило воспринимать всерьёз, — и миллиард перестаёт выглядеть амбициозно. Он начинает выглядеть как минимум, на который мы способны, и этот минимум вполне достижим.