現在のAI開発はハードウェア集約型だ。最先端能力のモデルを訓練するには、数千個の専用チップを数週間から数ヶ月間稼働させるクラスタが必要で、消費電力は数十メガワット規模に達する。チップは少数の企業が設計し、さらに少数の企業が製造する装置で製造され、特定の国家管轄区域を通るサプライチェーンを通じて販売される。このハードウェアの集中は、短期的な規制を現実的にするフロンティアAI開発の数少ない特徴の一つだ。.
その集中はガバナンスの要衝を生み出します。フロンティアAI開発の規制が、近いうちに実際に実行可能な数少ない場所の一つです。.
コンピュート・ガバナンスは、この集中を梃子として利用しようとするAI規制のアプローチだ。AIシステムが何を構築できるか（規制当局には判断しにくい技術的判断を要する）を直接規制するのではなく、それらを構築するために必要なハードウェアを規制する。コンピュートを制御すれば、フロンティアAIを誰が、どの規模で、どの程度の報告・透明性をもって開発できるかにある程度の制御が得られる。.
ハードウェアのボトルネック
これらのチョークポイントは永続的ではない。中国は国内半導体生産に積極的に投資し、西側サプライチェーンへの依存を減らそうとしている。現在の国内チップは最先端から大きく遅れており、中国のAI開発に実質的なコストを課しているが、十分な時間と資源があれば最先端AI開発を不可能にするものではない。既存のハードウェア集中が生み出すガバナンスの窓は現実的だが有限である。.
すでに存在するコンピュートガバナンスの措置
US政府は、先進AIチップの輸出管理をこれまでで最も重要な計算資源ガバナンス措置として実施した。2022年10月に発表された規制は、NvidiaのA100およびH100チップの中国、ロシアその他指定国への販売を制限した。2023年と2024年の追加規制は、元の閾値を意図的に下回るよう設計されたチップにも対象を広げ、最も明白な抜け道を塞いだ。この規制は中国のAIラボに実質的なコストを課しており、記録されたチップ密輸の試み、闇市場価格、中国の学習クラスタの能力低下はいずれも規制が効果を発揮していることを示している。.
バイデン政権の2023年10月AI大統領令には、開発者が約10^26浮動小数点演算を超える訓練実行を政府に報告する義務が含まれていた。これはおおよそGPT-4規模モデルの訓練に必要な計算量に相当する。この報告義務は、計算量ベースの監視に向けた第一歩だった。システムが展開される前ではなく、後にではなく、大規模訓練実行を行う者を政府が事前に把握できるようにするものだ。.
最先端の訓練実行には、特殊なチップが詰まった建物と、軌道からでも見えるような電力料金が依然として必要だ。その物理的な塊こそ、政府が握れる最良の取っ手である。コンピュート・ガバナンスとは、それらの建物を許可制で検査可能なインフラに変える地味な取り組みだ。.
コンピュートガバナンスにできないこと
コンピュート・ガバナンスを安全ツールとして有効にするには3つの大きな制約があります。第一に迂回です。規制が効力を発する前に第三国経由でチップを購入したり、備蓄したり、規制閾値を下回るやや能力の劣るチップに置き換えたりできます。US規制は文書化された事例で迂回されており、密輸や第三国経由のパターンは複数回の規制強化を促すほど広範でした。.
第二に、アルゴリズム効率です。AI訓練が効率化するにつれ、一定の能力を訓練するのに必要な計算量は減少します。今日適切な水準に設定した計算閾値は、効率が向上する3年後にはあまりに緩いものになっている可能性があります。固定の計算閾値に基づくガバナンス枠組みには、計算量と能力の関係の変化に応じて閾値を調整する仕組みが必要です。.
第三に、そして最も重要なのは、計算資源ガバナンスはアライメント問題に対処しないことです。適切に認可されたハードウェアを使い、所轄当局に報告し、認可された計算資源閾値内で訓練されたシステムでも、依然として不整合であり得ます。計算資源ガバナンスはフロンティアAI開発のペースと規模を制御し、何を訓練しているのかの可視性を提供できますが、訓練されているものが整合していることを保証できません。.
だからこそ、計算量ガバナンスは、整合性検証要件や国際条約義務と並ぶより広い枠組みの一要素として理解するのが最善であり、単独の解決策ではありません。The Foundation's 3つの政策提案 コンピュートガバナンスを、整合性検証と国際条約交渉のより困難な技術的・外交的作業が進む間、時間と可視性を買う短期的なレバーとして扱います。.