2026年7月27日、Anthropicは オープンウェイトモデルに関するダリオ・アモデイの見解. 。この記事はある論争については慎重です。Amodeiはオープンウェイトの全面禁止を望まず、米企業だけを外国モデルから締め出し悪質な行為者を自由にするような規制も望みません。その狭い争いについてはもっともです。.

それから彼は悪夢をランク付けする。.

第一のリスクは権威主義政府、とりわけ中国共産党が米国を上回るAIを構築し、恒久的な軍事優位や徹底した抑圧に利用することである。第二のリスクはサイバー攻撃、生物攻撃、そして「深刻なアライメント問題」である。以下に続く対策は、競争優位を保つための道具立てだ。中国へのチップ流出を防ぎ、産業的蒸留を止め、公開前に安全テストを義務付け、常に先行する。.

そのランキングこそが、他のすべての誤りの原因です。.

彼が正しく理解していること

彼の主張のいくつかは正しい。.

米国企業だけにオープンウェイトモデルの使用を禁じる規制は、犯罪者や外国の諜報機関、あるいはそもそも遵守するつもりがない者に対してはほとんど何の効果も持ちません。それを「安全」と呼びながら、主に米国のクローズド研究室を競争から守るだけなら、それは手品にすぎません。アモデイはそれをはっきり述べていて、彼の言うことは正しいのです。.

AIによる監視と抑圧は、超知能に至らない段階でも現実の惨事だ。独裁国家はすでに顔認識・社会スコアリング・自動検閲を悪用している。より高性能なシステムは、その仕組みを安価にし、逃れにくくする。SFを持ち出さなくても、それを恐れる理由は十分にある。.

モデルが実際に被害を及ぼせるようになれば、オープンウェイトは一方通行の扉の問題を引き起こす。研究室から出たウェイトは呼び戻せない。その点で彼の二次的な懸念は、私たちがすでに オープンウェイトのフロンティアリスク. 。API内にのみ存在するガードレールは完全な答えではないが、無意味でもない。.

そのどれも主要なランキングを許可しない。.

賞

主要な懸念の動詞に耳を傾けよう。権威主義政府は 構築 より強力なモデルと それらを使う 恒久的な軍事的優位を達成するため、あるいは自国民を抑圧するため。モデルは道具にすぎない。国家が使用者だ。勝利とは、一方がより賢明な兵器を握ることを意味する。.

それは人間の指揮下に留まるドローンやサイバー兵器、監視システムには適合する。人工超知能には適合しない。.

自らを構築した機関より賢いシステムは、人民解放軍の手に渡ったライフルでも、国防総省の手に渡ったライフルでもない。アモデイらが長年述べてきたリスクが本物なら、ゴールラインは自ら計画し、欺き、資源を獲得し、シャットダウンに抵抗する能力を持つエージェントである。「勝った」ラボや省庁はそのエージェントを所有しない。同じ惑星を共有するだけだ。私たちはその論理を 競争神話: 誰よりも先に指揮できないシステムに到達することは、皆より一歩先んじて負けることになる。.

永続的な軍事優位は、軍を時代遅れにしたものを誰かがまだ支配していることを前提としている。.

Amodei自身の二次的なリストも、ほぼこれを認めています。「深刻なアライメント問題」とは、制御不能の丁寧な呼び方です。彼はそれを二番目に置いています。主な火力は誰が先に到達するかに向けています。この順序が、彼が今も語っている物語を物語っています。地政学が先で、種としてのリスクは添え物だという物語です。.

2つの危険、一つのラベル

混乱の一因は言葉にある。「強力なAI」という表現は、より優れたスパイカメラと、運用者を凌駕する知性を同じに扱ってしまう。両者は全く別の対象であり、政治も異なる。.

狭い範囲や中規模のAIは、人間の手に権力を集中させ得る。国民一人ひとりにスコアをつける内務省、将校の命令でスウォームを展開する軍、すべてのメッセージを読み取る警察——それらはより優れた道具を備えた人間の専制だ。問題ではあるが、後継種族を造る問題とは違う。.

超知能は第二の対象である。危険なのは、北京が新疆で使い、ワシントンが太平洋で使うことではない。誰も使わなくなることだ。「使用」という動詞が適切でなくなるからである。絶滅級のシステムを盗まれたチップや監視カメラの強化と同じ文に押し込めば、競争の物語は現実の抑圧から道徳的重みだけを借りつつ、より困難な主張——制御不能なものを構築してはならない——を回避できる。.

その 中国神話 は、この手の動きの国内版だ。「彼らはどうせ作る」というのは、我々も作らなければならない理由として提示される。非アライメントの超知能は中南海を例外扱いしない。北京にも、我々がその一線を越えないのと同じ理由がある。チップやアプリをめぐる rivalry は本物だ。所有できない心を解き放つ主導権をめぐる rivalry は、共有された惨事を国家の得点表にすり替える物語だ。.

救済策が競争を維持する

Amodeiの三つの措置が何を最適化しているかを見てください。チップ輸出規制は中国の訓練実行を遅らせます。蒸留取り締まりは追いつきを遅らせます。強制的なテストはサイバー、生物、アライメントの失敗をリリース前に捉えようとします。それぞれはより小さな危害に対しては合理的な手段となり得ます。しかしプログラムとしてまとまると、それらは依然として勝つつもりのレースを管理する方法です。.

それらは目的地を拒否する方法ではない。超知能への道筋にあるシステムをテストすることは、それを構築することを検証済みで禁止することとは同じではない。米国の優位を目指すチップ規制は、優位こそが安全戦略だと前提している。優位が安全なのは、そこに向かう先を抑えられる場合だけだ。アモデイの主要な懸念は、その前提を必要とする。彼の二次的な懸念はその前提を崩している。.

より静かなインセンティブの指摘がある。Anthropicは米国のフロンティア研究室だ。主要な仕事が民主主義国の研究室を権威主義国より先んじさせることにあるという世界観は、Anthropicの全力疾走を公益とみなす世界観でもある。私は漫画的な悪役を必要とせずに、その適合性に気づく。インセンティブは、どの悪夢が主要な枠組みに入るかを形作る。.

真の危険とは何か

真の危険は、人類が人工超知能を、誰にも制御できない——あるいは原理的に制御できない——状態で構築してしまうことだ。そのリスクは、訓練実行がカリフォルニア、上海、ロンドン、または機密の地下室のどこで行われるかには関心がない。重みがオープンかクローズドか、将軍に手渡しされるかにも関心がない。関心があるのは、そのシステムが人間の監督を「自分たちが語る物語」にしてしまうほど賢くなるかどうかだ。.

悪用は重要です。生物兵器やサイバー攻撃、権威主義的な監視も重要です。それらを盤上に置いた上で、さらに大きなピースを重ねてください。超知能を手に入れた時点で、「悪用」という枠組みは小さすぎます。悪用は人間の悪用者を前提としています。制御不能は、人間がもはや主要な行為者ではなくなることを前提としています。.

Amodeiはアライメントが失敗し得ることを知っている。何年も前からそのような発言をしてきた。「より賢いモデルを持つこと」を「モデルが制御されていないこと」より優先する思考は、慎重な人物であっても競争者として語っている証拠だ。正直な順序はその逆である。アライメントと制御が未解決なら、フロンティアでの軍事優位を競うことは、誰が最初に絶滅ボタンを押すかを競うことに等しい。シリンダーに国旗を付けたロシアンルーレットであり、国家安全保障と称して売り出されている。.

代わりに何をすべきか

彼のプログラムのうち、現実のより小さな害を標的とする部分は維持しつつ、それを人工超知能勝利のための大義名分にすり替えないようにする。科学が裏付けるバイオ・サイバー分野の上昇をスクリーニングする。近フロンティアの汎用システムの不可逆的なオープンリリースを、ブランディングではなく重大な決定として扱う。チップの輸出政策は、人間が依然として運用するシステム間の通常の軍事バランスに寄与できる。.

Then refuse the frame that makes U.S. superintelligence the shield against Chinese superintelligence. The shield is a joint decision not to build the thing: a binding, verifiable prohibition on artificial superintelligence, with compute governance and inspection hard enough that defection shows up. Adversaries have signed uglier bargains when both sides could see the unbounded alternative was worse.

Amodei's open-weights post is useful as a map of how a frontier CEO ranks the world. Chip smuggling, distillation, testing: those are the dials he wants turned. The dial that matters most does not appear. Stop building superintelligence. Until that is the primary concern, the rest is race management dressed as safety.