その文書はBletchley Declarationである。英国のAI Safety Summitで採択されたもので、最も高性能なフロンティアシステムからのリスクをめぐり各国政府が初めて集まった会合の成果である。文書は簡潔で拘束力はなく、慎重に留保が付されている。何を記録し、何を留保したかを読み解くことは、2023年末時点の国際人工超知能ガバナンスの位置を測る最も明確な手がかりである。.
初めて、ライバル国同士が共同で、フロンティアAIが壊滅的な被害をもたらし得ると記録した。.
宣言が述べていること
核心の動きは承認である。宣言は、最先端AIモデルが深刻な、さらには壊滅的な危害の可能性を秘めていると述べる。意図的または非意図的であり得るリスクを名指しし、最も能力の高い汎用システムによる深刻な危害を指摘する。ワシントンと北京を含め、ほとんど何にも合意しない政府同士が、公の場でその枠組みを受け入れた。.
承認に加え、署名国は二つの方向性を約束する。共通の関心事であるAI安全リスクを特定し、それらに関する共通の科学的理解を構築すること。そしてリスクに基づく国家政策を策定し、適切な形で協力することだ。文書は継続的な国際対話を支持し、一連のフォローアップサミットを歓迎する。それらのサミットがすでに答えを持っているとは装っていない。.
それがしないこと
- 拘束力のある義務はない。. どの国にも、タイムテーブルに基づいて行動したり、指標を報告したり、能力を禁止したりすることを要求するものは何もない。.
- 機関なし。. 機関も事務局も監視機関もなく、話し合いを続け再招集するという合意のみである。.
- レッドラインなし。. 宣言は、どの能力が容認できないのか、または何が集団行動を引き起こすのかを定義していない。.
- 検証も執行もない。. 遵守は測定されない。なぜなら、遵守すべき具体的なものが何もないからだ。.
拘束力のない声明がそれでも重要である理由
歯のない宣言を退けるのは簡単だ。しかし、それは危険な技術が国際法に入る過程を読み誤っている。オゾンや気候変動で用いられた枠組み条約のパターンは、まず共通の原則と協力義務を確立することから始まる。問題に名前を付けることが、対処策を交渉するための前提条件だからだ。Bletchleyは最初の困難な外交作業を果たした。リスクが現実かつ共有されていることを、対立する大国に記録させた。.
それはまた、プロセスを開いた。サミットは一回限りではなかった。ソウルで二〇二四年五月に続けられた一連の定期開催を立ち上げ、政府に科学、制度、そして単一の宣言では支えきれないコミットメントを育てる常設の場を与えた。価値は文言そのものより、文言が切り開く道にある。.
ソフトな声明は演劇だという民間の反論がある。声明が物語の終わりならもっともだ。しかし、後に閾値や検証、罰則を追加する体制の第一歩である場合、それは国家がまだ受け入れる準備ができていない制約について語り始める方法だ。Bletchleyが失敗するのは、プロセスが写真撮影の機会で凍結した場合だけだ。.
続くテスト
ブレッチリーの真価は、認識がアーキテクチャになるかどうかで測られる。拘束力のある規則、独立した検証、制度へと固まらない共有の懸念は、ただの言葉に過ぎない。フォローアップ・サミット、各国 AI安全機関, と科学的評価こそ、声明を本物のガバナンスに成熟させるか、ただの言葉で終わらせるかを決める仕組みです。声明は出発点を買いました。あとは、その声明が警告した能力がプロセスを追い越す前に、仕組みに変換する作業が残っています。財団にとってその変換とは、 超知能を止めるための拘束力のある道筋, 、立法を伴わない恒久的なサミットのサイクルではない。.