Экспортные правила могут определять, кто вправе купить чип. Чип, который жёстко прописывает условия лицензии в кремнии, идёт дальше. Управление через аппаратные средства — это ставка на то, что некоторые правила должны жить в металле, а не только в PDF-файлах, которые упорная лаборатория может проигнорировать.

Идея опирается на факт, который делает ИИ необычайно поддающимся управлению. Обучение модели передового уровня требует огромного количества специализированных чипов, сосредоточенных в крупных дата-центрах и производимых через цепочку поставок с жёсткими узкими местами. Программное обеспечение копируется незаметно и мгновенно. Десятки тысяч передовых процессоров, потребляющих мегаватты энергии, — нет. Именно этот физический след позволяет управлению зацепиться, та же идея лежит в основе управление вычислениями, спускаясь до уровня чипа.

Что можно встроить в аппаратное обеспечение

Предложения варьируются от скромных до амбициозных.

  • Проверка использования. Чипы могли бы подтверждать, в защищённом от подделки и сохраняющем приватность виде, свойства своей работы — например, сколько вычислительных ресурсов потребовал тренировочный запуск, — позволяя инспектору проверить соблюдение требований, не читая саму модель или данные.
  • Лимиты использования. Аппаратное обеспечение может навязывать потолки, отказываясь участвовать в тренировочном прогоне сверх установленного масштаба, если это не разрешено, превращая юридический предел в физический.
  • Местоположение и целостность. Такие механизмы могли бы подтверждать, что чип находится там, где заявлено, и не подвергался вмешательству, поддерживая экспортный контроль и предотвращая попадание в неконтролируемые объекты.

Некоторые из них опираются на функции защищённого оборудования, уже существующие в современных процессорах по другим причинам. Инженерия сложна и отчасти не решена, но это не научная фантастика, и серьёзная работа по её воплощению уже идёт.

Почему это такой привлекательный рычаг

Привлекательность в том, что это решает проблему, подрывающую большинство схем управления сверхразум: верификацию. Договор, который нельзя проверить, — это Конвенция о биологическом оружии, реальный запрет, нарушаемый десятилетиями без обнаружения. Управление, которое может действительно подтвердить соблюдение, как режим ядерных инспекций подтверждает это для расщепляющихся материалов, — это управление, способное удержать. Механизмы на основе аппаратного обеспечения открывают путь к такой проверке для ИИ, опирающейся на физику, а не на доверие. Они позволят государствам договориться об ограничениях и убедиться, что другие их соблюдают, — недостающий элемент почти всех международных предложений.

Самая сложная часть любого соглашения по ИИ — доказать, что правило соблюдается, а не написать само правило. Доказательство может появиться на уровне аппаратного обеспечения.

Двойное лезвие

Механизм, позволяющий легитимной власти проверять и ограничивать вычисления, одновременно является механизмом контроля, а контроль можно использовать во зло. Инфраструктура, созданная для соблюдения лимитов безопасности, в чужих руках может обеспечить монополию, укрепить тех, кто держит ключи, или стать инструментом слежки и принуждения. Тот же рычаг, который мог бы обеспечить справедливую международную остановку, способен обеспечить концентрация власти против чего Фонд предостерегает в других местах.

Это не противоречит технологии. Она выступает за то, чтобы построить его с управлением управлением: прозрачность в отношении того, что делают механизмы, ограничения на то, кто их контролирует, и международные, а не односторонние полномочия. Управление с помощью аппаратного обеспечения является одним из наиболее перспективных инструментов, потому что оно атакует проблему проверки. Это одна из наиболее конкретных причин, по которой Фонд считает, что надежная, проверяемая международная система Он скорее достижим, чем утопичен.