オンラインのAI論争に触れたことがあるなら、この接尾辞を見たことがあるはずだ。人々は以前の世代がラペルピンを付けたように、ユーザー名に「e/acc」を付ける。これは 効果的加速主義, そしてそれはAI安全運動に対する最も明晰で、最も自信に満ち、最も影響力のある対抗勢力です。それを真剣に受け止めること（戯画化するのではなく）は、それに反対する唯一の誠実な方法です。.

効果的加速主義が信じていること

効果的加速主義は2022年頃、匿名ソーシャルメディアアカウントを中心に現れた。最も著名なのは「ベフ・ジェゾス」を名乗る元Googleエンジニア、ギヨーム・ヴェルドンで、Bayeslordと呼ばれる協力者と活動した。古い哲学潮流である加速主義の名を借りているが、実践的には学術的な祖先より単純で楽観的である。.

核心の主張：:

  • 技術は人間の繁栄の原動力である。. 健康、富、自由のほぼすべての進歩は技術的進歩に遡る。より多くの進歩、より速く、それがより大きな繁栄を意味する。.
  • AIはこれまでで最も強力なエンジンだ。, そして、それを加速させることは、病気を治し、scarcityを終わらせ、人類ができることと成り得ることを拡大する最速の道です。.
  • 壊滅的なリスクは低いか無視できる程度である。. 著名な加速主義者の中には、AIが引き起こす実存的破局の確率を「ゼロまたはほぼゼロ」とし、終末シナリオを反証不可能な不安として扱う者もいる。.
  • 技術を理解するには、それを構築しなければなりません。. 抑制は、技術を安全にする方法を教える経験そのものを閉ざします。私たちは行動によって学び、停止によって学ぶのではありません。.
  • 制限自体が危険である。. 厳しい規制は権力を集中させ、競争を阻害し、より良心のない行為者に未来を渡す可能性があります。オープンで高速かつ分散した開発の方が、統制された減速よりも安全です。.

このように述べれば、e/accは進歩に対するアメリカ的で啓蒙主義的な信仰として認識できます。本物の可能性を持つ技術に向けられたものであり、愚かではありません。私たちの立場は、オンラインの罵り合いが示唆する以上に多くの点で一致しています。私たちが率直に述べるように、, 私たちはAIに反対していない. 狭いAIはすでに病気を治し、発見を加速させています。意見の相違は「楽観主義者対悲観主義者」よりも狭く、鋭いものです。

e/accが正しい点

正直な反論は、強い点が強いからこそ、それを認めることから始まる。.

進歩こそが真に偉大な人道的力だった。. Life expectancy, child mortality, literacy, absolute poverty, the long-run trend lines are the best news in human history, and technology drove them. A blanket suspicion of new technology has a poor track record.

予防的制限には実際にコストがかかる、, そしてそれらはしばしば目に見えません。治療法が1年遅れるごとに、生きられたはずの人が亡くなります。「まず、害をなすな」は「まず、何もするな」を意味できません。なぜなら、何もしないこともまた死者を出る選択だからです。真剣な安全論は、この負担を背負わなければならず、ただ無視してはなりません。.

権力の集中は本当にリスクです。. A governance regime that hands control of AI to a small cartel of incumbents or a single government is its own kind of catastrophe, a point we make ourselves in our pieces on the AIシングルトン と 民主的監督. e/acc は「規制するだけ」ではひどく間違う可能性があると正しい。.

議論が破綻するところ

それでも結論は導かれない。失敗はe/accの技術全般への楽観ではなく、3つの特定の論点にある。.

1. 未証明の主張を既成事実として扱っている

破滅的なAIリスクは「ほぼゼロ」というのが、この主張の核心的前提です。しかし、これは研究結果ではありません。誰もそれを証明していません。これは、現代AIを築いた研究者たち、ジェフリー・ヒントン、ヨシュア・ベンジオ、そして2023年に絶滅リスクをパンデミックや核戦争と並べて警告した声明に署名した数百人の研究者たちの見解に真っ向から反しています。運動の中心的な前提が、その分野の先駆者たちによって明確に否定されているとき、それを「楽観主義」と呼ぶのは実態を過小評価しています。それは賭けであり、加速論者は議論全体が依拠する唯一の問いに対して、静かに答えを決めつけているのです。私たちは、滅亡確率に関する実際の専門家見積もりの範囲を、別の解説記事で調査しています。 滅亡確率.

2. 「作って学ぶ」は生き残れないミスには失敗する

技術を最もよく理解する方法はそれを構築することだという主張は、ほぼすべてのものについては正しいですが、ここで問題となる一つのカテゴリについては完全に誤っています。反復的で失敗から学ぶ開発は、失敗が耐えられ、元に戻せる場合に機能します。バグのあるソフトウェアを出荷し、クラッシュし、パッチを当てる。そのループがすべての工学的進歩の原動力です。.

最初の深刻な失敗が最後の失敗でもある場合、それは機能しない。整合性の取れていない 超知能 はパッチで修正できるクラッシュではありません。論理的に言えば、 手段的収束 と 裏切り的な転換, 修正や停止に抵抗するシステムです。「進めながら学べばいい」という考えは、二度目の機会を前提としています。この問題に関しては、その機会がない可能性があります。私たちの主張は、 e/accが求めるユートピア的な恩恵には、私たちがまだ実現方法を知らないアライメントが必要だ, そして非整合の超知能は豊かさをもたらさず、ただ物語を終わらせるだけだ。

3. それは調整の問題を価値観の問題と取り違えている

e/accは議論を、進歩を愛する楽観主義者対それを恐れる悲観主義者として位置づける。しかし、献身的な楽観主義者でさえ、 競争ダイナミクス: ：複数の研究所や国家が先陣を切ろうと競争する場合、それぞれに安全策を削る誘因が生まれる。なぜなら減速した者が、減速しなかった者に負けるからだ。その結果、 誰でも はより速く動く 誰でも が賢明だと考えている。それは楽観主義の勝利ではなく、典型的な集団行動の失敗であり、どの参加者も望まない結果を生む。加速は、その罠を解決しない。むしろ深める。解決するのは、e/accが反対するような、拘束力のある国際的枠組みによる調整だけだ。.

意見の相違、正確に述べる

ミームを剥ぎ取れば、二つの陣営が意見を異にするのは運用順序についてだけだ。e/accはまず構築し、制御と理解は能力から後からついてくると信じる。安全側の立場は、まず制御を確立せよと言う。なぜなら、この技術の場合、順序を間違えた代償は無制限かつ不可逆だからだ。.

加速論者が正しく、私たちがそれでもガバナンスを行うなら、速度と効率をいくらか失うことになります。本物のコストですが、回復可能なものです。加速論者が誤っており、私たちがガバナンスを行わなかった場合、私たちは人類がこれまで生み出した最も強力なものを操縦する能力を、永久に失うことになります。この非対称性に直面すれば、安全を最優先に主張することは、進歩への恐怖ではなく、私たちがこれから下す最高の賭けに対する最も基本的な慎重さの形です。.

それが中田財団がAIに反対せず、良い未来に反対しない理由だ。車が全速力に達する前にブレーキをかけようと主張しているのだ。加速論者たちが約束する豊かさを手に入れたいなら、それを確実に享受できるようにするには、まず私たちが生き延びる必要がある。私たちの 計画 が「safety first」の実践例です。.