1970年代初頭、生物学者たちはある生物の遺伝子を別の生物に組み込む技術を習得した。組み換えDNAは医学と生物学に新たな扉を開いたと同時に、それを生み出した人々自身を恐怖させた。改変された生物が実験室から漏れ出し、誰も対処法を知らない被害を引き起こす可能性を否定できなかったからだ。そこで彼らは、ほとんど前例のない行動を取った。研究を停止したのだ。

1974年、将来のノーベル賞受賞者を含む主要研究者たちが、最も危険な組換えDNA実験に対する自発的モラトリアムを公に呼びかけた。1975年2月、カリフォルニアのアシロマ会議場で約140人の科学者、弁護士、ジャーナリストが集まり、研究を安全に再開できる条件を決めた。彼らはリスクに応じた封じ込め措置の枠組みを提示し、合意された安全策の下で研究が再開された。最先端AIの一時停止を主張する人々にとって、これは参照点である。自らの危険を認識し、速度よりも慎重さを選択した分野の事例だ。

アシロマーが本当に正しく理解していたこと

その成果は本物であり、明確に述べる価値がある。

科学者は災害の後ではなく災害の前に行動しました。これは技術の安全性の歴史の中で最もまれで最も価値のあることです。彼らは、リスクを理由に、名声と進歩を約束する研究を含む自分たちの研究に対する自制を受け入れました。そして彼らは、危険を無視したり、フィールドを完全に禁止したりするのではなく、危険のレベルに合わせた実践的なルールを構築しました。これは、研究コミュニティが自らの最前線に目を向け、急ぐには危険すぎると判断し、手を控えることができるという証拠となります。その判例は、次のような主張に対する直接の反論である。 強力なテクノロジーを一時停止するのは単純か不可能です.

なぜ見た目より難しいモデルなのか

先例について正直に語るということは、AIがなぜより困難な事例なのかを具体的に挙げることを意味する。違いこそがAsilomarを機能させた部分そのものだからだ。

  • それは小さく統一されたコミュニティだった。 数十の研究室、一つの科学文化、互いを知る人々。先端AIは、数兆ドル規模の企業・国家によるグローバルな競争であり、共有の場はない。
  • 1975年当時の商業的利害は控えめだった。 当時バイオテクノロジー産業はほとんど存在していませんでした。AIはすでに世界最大級の企業と国家安全保障機関が深く関与した状態で到来しています。 競争ダイナミクス アシロマーが直面しなかった。
  • 再起動が目標だった。 アシロマーは、無期限に停止するのではなく、安全に継続できる条件を見つけるように設計されています。その封じ込めモデルは、危険物を物理的な実験室に瓶詰めできることを想定していました。有能な AI がそのように封じ込められるわけではないのは明らかです。

また、厳粛なエピローグがある。アシロマ合意が成立したのは、インセンティブが一致した狭い時期だったからであり、それでもなお、商業化と競争が激化する分野では、善意による自主的な協力に依存していた。140人の研究者が集う collegial な場で機能したものが、激しい勝者総取り圧力下の分断されたグローバル産業にそのまま通用するわけではない。

アシロマーは一時停止が可能であることを証明する。また、一時停止に必要な条件と、AIが現在それらをどれだけ満たしていないかを示している。

AIには自発的な善意だけでは不十分

アシロマーの両半分が重要です。それは、何もできない、強力なテクノロジーを遅らせることはできないという運命論を否定しています。科学者たちは意図的にそれをしました、そして、空は落ちませんでした。しかし、1975年に機能した非公式で自発的な合議メカニズムは、AIには小規模なコミュニティ、低い賭け金、そして善意を十分に保つことができる封じ込め可能な危険性が欠けているため、AIにとっては十分ではないことも示されています。 正しい結論は、AIにはAsilomarが達成できること、危険の前に本当の抑制が必要であり、1兆ドルの世界的な競争が必要とする拘束力のある検証可能な国際的なメカニズムを通じて提供されるのであり、AIが独自のAsilomarを必要とするのではないということです。