2025年7月、マーク・ザッカーバーグは「パーソナル・スーパーインテリジェンス」に関する書簡を発表し、Metaが何をオープンソースにするか慎重になるよう警告もした。この組み合わせこそが、政策問題のすべてを1ページに凝縮している。一般システムへの競争と、一度重みが公開されたら取り消せないリリース決定だ。.
ここで「オープン」が意味すること
人々は「オープンソースAI」という言葉を、コード公開、データ公開、重み公開、論文公開など異なる意味で使っている。最も重要な争点は主に 重み: ダウンロードして実行できる訓練済みパラメータだ。それらがフロンティアの汎用性で出荷されれば、十分なハードウェアを持つ誰もがファインチューニングし、フィルターを剥がし、プライベートなフォークを永遠に保持できる。.
リリースは一方通行の扉だ。ホストされたAPIならパッチを当てられるが、トレントは回収できない。.
オープンさが本当に守るもの
オープンであることの最大の根拠は、甘い考えなどではない。閉鎖的な集中は権力のリスクだ。独立した研究者がアクセスできなければ、研究所が優先しない失敗を発見できない。隠蔽によるセキュリティはしばしば破綻する。先進国企業の外にいる研究者が、永久にAPIの利用者でいるべきではない。まだ封じ込め可能なシステムに関するオープンなツール、オープンな評価、オープンサイエンスは、守る価値のある利益だ。.
メロドラマ抜きのリスク論
高い能力レベルでは、汎用重みの公開は拡散に等しい。生物支援、サイバー攻撃、説得、自律エージェントの悪用ができる主体を増やし、長期自律性の独立した実験も増やす。ほとんどは失敗するだろうが、一部は新たな回避技術を生む。ライセンスや「責任ある利用」の文言は、決意あるファインチューナーを抑えられない。リリース前のレッドチーミングは役立つが、将来のあらゆる足場やツールに対する保証にはならない。.
最も強い反発
最も公平な反論は、オープンウェイトが精査を民主化し、真の集中リスクはクローズド研究所にあるというものだ。精査はまだ修正・回収可能なシステムには有効である。アクセスの民主化と能力の安全は同じではない。フロンティアモデルを三社だけがホストする世界にはガバナンスの問題がある。高度に汎用的なウェイトがすべての愛好家のGPUに置かれる世界には、別の、より困難な問題がある。.
「悪意ある行為者がすでに持っている」というのは通常時期尚早だ。能力は跳躍する。弱いモデルが昨年漏洩したからといって、次のものを出荷する許可にはならない。タイミングが重要だ。.
現実的な中間的道筋
段階的リリース：: 「 小さく狭いものを開き、大きく一般的なものを門で塞ぐ。 」. 構造化されたアクセス: trusted research environments、logged queries、およびcredentialed fine-tunesをraw dumpの代わりに。. オープンなツール: コンパイラ、評価ハーネス、安全研究スタックを、フロンティアウェイトが閉じられたままでもオープンに保つ。それらは政策選択であって、雰囲気ではない。.
研究室向けの決定木
このダウンロードは、次の六回の能力ジャンプ後も役立つだろうか。役立つなら、それは拡散の判断として扱う。役立たないなら、通常の製品リリースに近い扱いにする。独立したセキュリティチームやバイオセキュリティチームが必要なアクセスを公開トレントなしで得られるか。得られるなら、構造化アクセスを優先する。開示の唯一の理由が競合他社とのマーケティング上の対等性である場合、それは安全性の根拠にはならない。.
何をすべきか
開発者：最先端ではデフォルトで非公開とし、外部の精査を可能にする評価とインターフェースを公開する。ホストとプラットフォーム：高リスク利用を記録・レート制限し、拡散を「コミュニティ」と偽装しない。政策立案者：能力や計算量に基づくトリガーを書き、「オープン」という言葉ではなく、汎用重み公開前に段階的審査を義務付ける。個人：狭いシステムではオープンなツールを好み、最先端の重み公開は無料のおまけではなく市民的出来事として扱う。.
The Foundationの立場は単純です。道具のような狭いAIはオープンであってよく、そうあるべきです。人工超知能を目指すプログラムは、制御が未解決のままオープンウェイトで野に放つべきではありません。オープンサイエンスは自殺協定ではありません。See 私たちの計画.