AI安全がどのように
年間10億ドル

Start with where things actually stand. 第1部 added up every philanthropic grant, every government safety program, and every dollar the frontier labs spend on their own safety teams, and arrived at a total of roughly $190 million a year. Set against that, the world puts more than $250 billion a year into making AI more capable, and the figure keeps climbing. For every thousand dollars spent making these systems more powerful, under a dollar is spent making them safe.

年間十億ドルは、その算術を変え始めます。そしてそれは、思われるほど大きな金額ではありません。業界がすでに能力開発に費やしている金額の二日分にも満たず、米国が国防に支出する金額の約0.1パーセントです。気候変動分野のフィランソロピーが毎年動かす金額の十分の一であり、気候変動のフィランソロピーは lavish とは見なされていません。十億ドルが何であれ、技術を構築している人々が自らの名で文書に pandemic や核戦争に例えてきた問題に対しては、大きな金額ではありません。.

だから、この分野が資金不足な理由は、10億ドルを見つけるのが難しいからではない。世界はすでにその何倍もの金額を、同じオフィスビルの数フィート先、反対側で使っている。お金はある。欠けているのは、その一部を動かすという決断だ。.

資金はすでに存在する。世界がAIをより強力にするために費やしている金額の、わずか1.5日分程度だ。足りないのは、その一部を逆方向に動かそうとする意志だけだ。.

10億は最低ラインだ

なぜ10億ドルで、3億ドルではないのか。概ねその水準を下回ると、分野は一度に一つのことしかできないからだ。1億9000万ドルでは、数字が残酷な選別を強いる。技術研究とモデル評価が全体の約3分の2を吸収し、提言（研究結果を政府や企業に行動させる活動）は約5パーセント、年間1000万ドル程度に留まり、大手テクノロジー企業1社が一つの首都でロビー活動に費やす額を下回る。10億ドルあれば、この選別を終わらせられる。安全保障分野は現在研究所が吸収している人材に競争力ある報酬を支払え、一つの財団に依存する分野を多様化でき、単に記録するだけでなく結果を変える政治活動に資金を充てられる。.

年間10億ドルは、適合する歴史的な事例と比べても控えめな額だ。ヒトゲノム計画は約30億ドルかかり、米国がこれまでに行った最良の公共投資の一つとして記憶されている。自らの開発者が核戦争に匹敵すると位置づけるリスクに対して、年間10億ドルは決して手厚い数字ではない。それを「払えるかどうか」議論していること自体が奇妙なことだ。.

その10億ドルの本当の出所

どれも新しい発明や並外れた寛大さを必要としない。4つの普通の源泉を同時にオンにするだけでいい。そのうちの2つを本気でやれば、目標は達成できる。.

三つ目の行が最も重要である。なぜなら、誰かの善意に依存しない唯一の財源だからだ。慈善資金は、主要な資金提供者が技術安全助成金を2年で半分以上削減したように、寄付者の考えが変われば蒸発する。政府予算は選挙で変わる。リスクを生み出している業界に法定課徴金を課す方式は、耐久性があり、比例的であり、完全に前例がある。すでに医薬品、航空、原子力の監視機関の費用を賄う方法である。ハザードを生み出す計算資源に安全資金のわずかな部分を紐づけることは、監視の必要性を自然に拡張したものである。 コンピュート・ガバナンス.

リスクが明確になると、お金は素早く動く

この点については歴史が明確に示しています。危険が一般市民や政府に理解されるようになると、資金は現在の細々とした流れが「制約ではなく選択」だったことを露呈する速さで集まります。オゾン層を蝕む化学物質は、 モントリオール議定書, 、その基金はその後、何十億ドルもの資金を途上国での移行を可能にするために投じてきた。COVIDが到来したとき、世界はわずか数ヶ月で数百億ドル規模のワクチン開発を立ち上げた。天然痘、オゾン、ポリオ：いずれの場合も制約となったのは資金ではなかった。認識だった。.

AI安全はまだその認識の瞬間を迎えていない。その理由は資金ではなく構造的なものだ。警告されている被害はまだ起きていない。患者も水没した町も、顔を付けるべき遺族も存在せず、取り組みが成功すれば永遠に存在しない。支持基盤のないリスクには、予算を握る人々に働きかける者もいない。より良いスプレッドシートでは解決しない。.

これは動員の問題だ

つまり十億ドルへの道筋は、本質的に資金調達計画ではなく、リスクを明確にし、それを真剣に扱うことを名誉あることだと位置づける計画だ。その作業は三つの線に沿って進む。.

目に見えるようにせよ。. A threat people can picture is a threat people will fund: journalism, film, data, and public argument that turn an abstract probability into something a legislator or a donor can feel, the same cultural groundwork that came before serious money for the climate and for nuclear arms control.

それを権威あるものに。. 当ノーベル賞受賞者や元国家元首、信頼できる公人が、ある問題を深刻に扱えば、規範も資金もその背後に動く。AIリスクに関する科学的コンセンサスはすでに存在する。遅れているのは、資産や地位のある人々がそれを堂々と口に出して行動するための社会的許可だ。.

義務化する。. 自発的な寄付を強く推し進めても、年間3〜4億ドル程度にしか届かないかもしれない。10億ドルという全額（そしてより重要なのは、単一の寄付者の心変わりを超えて存続させること）を実現するには、法が必要だ。課税、予算項目、条約上の義務。これが財団が活動を 拘束力のあるルール そして説得だけではない。寛大さは歓迎されるが、それだけでは基盤にできない。.

だから、年間10億ドルを「本気で取り組む野心的な額」と考える考えは一旦脇に置いてください。それは最低限の額です。私たちがすでに問題を悪化させるために使っている額の2日分にも満たず、3000年にわたって人々を殺してきた病気を世界から根絶するために一度だけかかった額のごく一部にすぎません。金額が問題なのではありません。本当に不足しているのは、この規模のリスクを自分たちの警告を信じているかのように扱うという決断です。.

その決定は世論の圧力、政府が耳を傾ける声、そして私たちのどれだけがこれを科学が示す優先事項として扱うかによってなされる。資金を永続的にするルールの根拠は 私たちの計画, そしてそれに自分の重みを加える最速の方法は、 で5分かかる 行動を起こす ページ。.

しかし、世界がすでにこの技術の構築に費やしている額や、人類が深刻に受け止めた危険に過去に費やしてきた額と比べると、10億ドルは野心的とは見えなくなる。最低限やるべきことのように見え始め、手の届く範囲にある。