生物兵器を禁止する条約だが
執行できない、人工超知能ガバナンスへの教訓

細菌（生物）および毒素兵器の開発、生産及び貯蔵の禁止並びにそれらの廃棄に関する条約は、生物兵器禁止条約（BWC）と略され、1972年4月10日に署名のため開放された。1975年3月26日に発効した。これは大量破壊兵器の全カテゴリーを禁止した初の多国間条約であり、包括的な内容だった。第I条は、攻撃目的での生物剤の開発、生産、貯蔵、取得をいかなる状況下でも禁止している。.

ソ連は条約が有効だった期間に、史上最大級の生物兵器プログラムを運用していました。その失敗から人工超知能ガバナンスが学べる教訓とは。.

BWCは現在183の締約国を有する。主要国はすべて署名国だ。.

ソ連はBWC加盟国でありながら、Biopreparatという大規模な秘密生物兵器計画を運用していた。ピーク時には数十の施設で6万人以上の科学者を雇用し、兵器化された炭疽菌、天然痘、ペスト、ウイルス性出血熱などの病原体を開発していた。条約発効から約20年近く経った1990年代まで継続した。この計画はBWCの再検討会議や外交ルート、情報機関から長年隠蔽されていた。最終的に条約メカニズムではなく、亡命者、特にBiopreparat上級職員だったDr. Kanatjan Alibekov（後にKen Alibekの名で著書を出版）によって明らかにされた。.

人工超知能のガバナンスにとっての教訓は明確かつ不快なものだ。違反を検知する仕組みを伴わない活動禁止条約は、執行手段のない共通規範の再確認に過ぎず、ガバナンス機構ではない。.

BWCがすることとしないこと

条約の禁止事項は明確かつ広範だ。生物兵器の開発、生産、貯蔵を禁じ、既存の貯蔵を破壊することを義務づけ、生物兵器能力の他国への移転を禁止する。これらの義務はすべての締約国に法的拘束力を持つ。.

第V条の協議メカニズムは、違反があったと考える締約国が他の締約国との協議を要請できるものです。実際には、ある国が別の国に対して条約違反の有無を正式に尋ねることができ、問われた国は意味のある回答を拒否できます。この仕組みはほとんど使われておらず、違反認定や救済措置につながった例はありません。.

常設の検証機関はない。査察官もいない。生物研究プログラムを申告する義務もなく、ほとんどの国が十分に実施していない任意の信頼醸成措置があるだけだ。条約には5年ごとの再検討会議があり、締約国は実施について議論するが、それは調査プロセスではなく外交会議だ。.

「なぜ検証が一度も含まれなかったのか」

BWCは当時の他の軍備管理条約に比べて迅速に交渉された。交渉テキストは1969年から1972年の間に作成された。この速度は、USとソ連の双方が受け入れる意思があった時期に、禁止原則を国際法に確立するという政治的優先度を反映していた。ニクソン大統領は1969年にUS生物兵器を一方的に放棄し、条約締結前にUSの在庫を破壊するよう命じた。.

検証の問題は、同一の交渉期間内に解決するには技術的に困難で政治的に争点が多いとみなされた。生物剤は医薬品・ワクチン製造に用いる機器で生産可能である。生物兵器におけるデュアルユース問題は化学兵器より深刻で、関連する産業基盤が民間医療と切り離せないため、特殊な化学兵器前駆物質とは異なる。兵器計画の不在を検証しつつ、機密の医薬品・生物防衛研究を明かさない査察プロトコルの設計は、交渉期間中に解決されず、検証なしで禁止を進める決定が下された。.

その決定は当時の政治的状況を考慮すれば理解できるものだった。しかし振り返ってみれば、重大な過ちでもあった。.

ソビエトのプログラムとそれが証明したこと

BiopreparatはBWC発効前からソ連崩壊後、ロシア連邦の初期にかけて継続的に運用された。1999年にAlibekovが『Biohazard』として出版した証言によれば、プログラムは潜在的な査察を回避するよう明確に設計されていた。生物剤は民間用カバー名で分類され、施設は製薬工場として提示され、高官はソ連の生物研究の条約遵守という表の顔と並行して進められる兵器プログラムを慎重に分離していた。.

これは体系的で大規模、組織的に洗練されたプログラムであり、ソ連の条約義務に直接反して約15年間運用されたものであり、些細な違反ではなかった。ソ連政府は条約に違反していることを知っていた。ソ連高官はこの期間、BWC再検討会議や信頼醸成措置の提出に参加していた。条約にはこれを検知・調査・対応するメカニズムが一切なかった。.

米国は、条約発効後もソ連の生物兵器活動が続いていることを諜報で把握していたが、正式な査察メカニズムがなかったため、条約の枠組み内で正式な認定と対応を行うことができなかった。二国間の外交的対立は起きたが、ロシア側は「過去の」計画を認め、現在は活動していないと否定するだけで、独立した検証は不可能だった。.

検証を追加しようとした失敗した試み

1994年から2001年にかけて、多国間の作業部会がBWCに査察権を追加するための検証議定書草案を交渉した。締約国によるアドホックグループは7年間に24回会合し、200ページを超える議定書草案を作成した。2001年7月、米国はその草案を拒否した。主なUSの反対理由は、議定書の査察体制が高度な違反を効果的に検知できず、USの製薬会社に受け入れがたい負担を強いる一方で、機密のUS生物防衛プログラムを、潜在的なBWC違反国による査察にさらす恐れがあるというものだった。.

どちらの異論も、不完全な検証設計に対する本物の懸念を反映していました。しかし、根本的な問題——条約が検証メカニズムなしで運用され続けていたこと——には触れていませんでした。USの拒否後、交渉は事実上崩壊し、その後の交渉マンデートは合意されていません。BWCは執行機構のない包括的禁止として六十年目を迎えました。.

人工超知能ガバナンスへの直接的な教訓

BWCの失敗は人工超知能ガバナンス設計にとって最も重要な否定的ケーススタディです。これにより、3つのことが高い確信度で示されています。.

第一に、検証のない禁止はガバナンスではない。BWCの禁止の広さ（ほぼ普遍的な参加で兵器カテゴリ全体を禁止）は、ソ連が史上最大級の生物兵器計画を運用するのを防げなかった。条約の文言は、ソ連政府が不遵守が自らの利益になると判断し、検知されないと計算したときに守るべき義務を生まなかった。条約本文の言葉は、どれほど明確に書かれ、普遍的に批准されていても、監視と検知時の結果がなければ行動を制約しない。.

第二に、主要国が検証が自国の利益に反すると判断した後から検証を追加することはできない。1994〜2001年の交渉が失敗したのは、検証アーキテクチャが技術的に不可能だったからではなく、効果的な検証を設計できる最も有力な国が、利用可能な設計が自国より競争相手の利益にかなうと結論づけたからである。一度検証なしの条約が存在すると、後から検証を追加するための政治的条件が二度と戻らない可能性がある。人工超知能ガバナンスでは、検証アーキテクチャは当初の枠組みの一部として合意されなければならず、後回しの技術的詳細として先送りしてはならない。.

第三に、デュアルユースの問題は設計上の課題であって、条約を阻む障害ではない。BWCの検証失敗は、生物技術のデュアルユース性に大きく起因していた。AI開発も同様のデュアルユース課題に直面しており、おそらくより深刻である。しかし化学兵器禁止条約（CWC）は、デュアルユース技術に対する検証を、査察官がアクセスできる範囲とできない範囲を慎重に定めることで成功裏に設計した。CWCの成功から得られる教訓は、デュアルユース問題が検証を不可能にするのではなく、禁止が結ばれる前にBWC交渉者が行わなかった、持続的な技術的・外交的作業が必要だということである。.

"検証メカニズムのない人工超知能ガバナンス条約は、21世紀のBWCになるだろう。統治の印象を与えるほど広範で、遵守しない者には何の制約も課さないほど弱い。"

生物兵器禁止条約は意図の失敗ではない。確立した禁止規範は本物であり、多くの国家が本来追求したかもしれない生物兵器計画の開発を抑制してきた。設計の失敗である。防止すべき不正を明確な言葉で規定しながら、国家がそれを実行した場合に検知する仕組みを一切作らなかった条約である。危険なAI開発に対する禁止を定めながら、その禁止をどのように検証するかを明示しない人工超知能統治提案は、同じ設計経路をたどっている。BWCの歴史は警告であって、模範ではない。.

最も強い反発

最も公平な反論は、BWCが検証を欠くため弱い前例であり、それを模倣すれば失敗を輸入することになるというものです。それこそが教訓です。禁止の impulse を模倣し、欠けた査察機関を模倣しないことです。BWCから学ぶ人工超知能ガバナンスは、検証を後の付属文書ではなく、最初の草案に置かなければなりません。.