橋が崩落すれば、弁護士はすでに責任主体の探し方を知っています。一方、モデル・クラウド・統合事業者にまたがるAIスタックが故障した場合、その探索は停滞します。被告を特定できない賠償責任ルールは、次の故障を抑止できません。これは形而上学の問題ではなく、ガバナンスの問題です。.
違反に対する責任を割り当てられない条約は執行できない条約であり、これらの問題はAIのような技術にとって本当に難しい。.
2つの異なる問題
しばしば混同される2つのことを分けることは役立つ。. 責任 は、危害が発生した際に誰が責任を負い費用を負担するかという法的問題であり、開発者から運用者、利用者へと連なる責任の配分にかかわる。. 帰属 は実際に何が起き、誰がやったのかを確定し、有害な行動を特定のシステム、モデル、または行為者に結びつける事実的・技術的問題である。ガバナンスには両方の答えが必要だ。責任を割り当てるルールと、そのルールを適用する事実を確定する法医学的能力である。.
なぜAIは両方を難しくするのか
- 因果の連鎖は長く拡散している。. 一つの有害な結果が、基盤モデル開発者、モデルを適応させた企業、展開者、エンドユーザーを巻き込み、それぞれが他者を指し示すことがあり得る。.
- 行動は創発的で不透明だ。. システムがその作成者が具体的に意図または予見しなかったことを行った場合、従来の過失や過失責任の概念は通用しにくくなります。.
- 帰属は技術的に捉えにくい場合がある。. どのシステムが特定の出力や行動を生んだかを特定するのは、モデルが複製・ファインチューニング・非公開運用されている場合、意図的な追跡措置がなければ本当に難しい。.
- 危害は国境を越える可能性がある。. 一国で開発され、別の国で展開され、第三国で被害を引き起こすシステムは、通常の責任法が想定していない管轄の問題を提起する。.
国際的な側面
国家レベルでは、国際法はすでに責任に関する枠組みを備えている。国家責任に関する長年の規則（国際法委員会の条文に成文化）により、国家は国際違法行為について責任を負い、一定の状況では、自らが指揮・管理し、または規制を怠った民間主体の行為についても責任を負う。AI条約はこの枠組みを基盤とする。各国は、自国領域内の主体が遵守するよう確保し、遵守できなかった場合の結果について責任を負うことになる。これが、国家を拘束する条約が、実際に最先端AIを開発する民間企業への説明責任に結びつく仕組みである。.
しかし国家責任は帰属の証明、すなわち違反が発生し特定の国家の管轄下で生じたことを示すことに依存する。ここでガバナンスと検証が出会う。不遵守を検知する監視・追跡ツールこそが、帰属ひいては責任を可能にする。条約の執行規定が信頼できるかどうかは、誰が何をしたかを明らかにできるかどうかにかかっている。.
ガバナンス体制に必要なもの
明確な配分ルール
開発・展開の連鎖の中で、どの危害について誰が責任を負うかを定める法律。責任が「誰の責任でもない」に拡散されないようにする。EUのAI賠償責任に関する取り組みのような枠組みは、その初期の試みだ。.
設計によるトレーサビリティ
有害な行動をその出所まで追跡できるように、ログ記録、モデル識別、ハードウェアレベルの記録などの技術的措置を最初から組み込んでおく。推測を証拠に変える。.
ケアの基準
フロンティア開発者に義務を課し、義務を果たせなかった場合に過失を認定することで、リスクを生む側に立証責任を移す。.
国際的な帰属能力
共有された検証と法医学的能力により、国境を越えて違反を立証し、責任ある国家や行為者に結びつけることができます。.
誰も守らせることのできないルールは、ルールではない。危険なAIに制限をかけられるようになるには、まず二つの問いに答えなければならない。責任は誰にあり、それをどう証明するのか。その答えこそ、信頼できる条約の土台になる。.
条約の根底にある基盤
責任と帰属は、人工超知能ガバナンスの主要な呼びかけではほとんど取り上げられませんが、それが機能するかどうかを決めます。閾値と禁止を定めた条約に違反責任を割り当てる方法がなければ、それは意図の表明であって執行可能な規則ではありません。AIサプライチェーンに沿って責任を割り当てる法的枠組みを構築し、被害を源に追跡する技術的能力を備えることは、したがって条約プロジェクトの基盤の一部であり、別物ではありません。これらはまた、国内の責任法と追跡可能性基準を通じて、国際合意に先立ち支援する形で今進められる分野でもあります。ガバナンスの目に見えるアーキテクチャ（レッドライン、監視機関）は、この静かな基盤の上に成り立っています。それがなければ、執行は誰も守れない約束です。.