支持者のためのトーキングポイント

AIは数十年にわたり過熱報道されてきた。これはまた別の恐怖話に過ぎない。.

懸念すべきは外部者による誇大宣伝ではなく、 からの警告である それを構築した人々. 。ジェフリー・ヒントンとヨシュア・ベンジオは現代のAIを生み出したノーベル賞受賞者であり、警鐘を鳴らしている一人だ。技術の発明者たちが存在的リスクを指摘するとき、それは恐怖を煽る話ではない。一次情報源による技術的評価だ。.

何か問題が起きれば、ただオフにすればいい。.

目標を追求できるシステムは、停止させられることがその目標を妨げると認識する。したがって悪意からではなく、ほぼどんな目的にとっても抵抗が合理的だから停止に抵抗する。これを 手段的収束, 複数の研究者が独立に指摘したものです。超知能システムはミリ秒単位で行動できます。「電源を切る」という想定は、問題を認識する時間と行動する能力の両方が存在することを前提としていますが、どちらも保証されません。.

減速すれば、中国がAI競争に勝つ。.

この枠組みは競争に勝者がいると仮定している。そうではない。どの国や企業も 所有または制御 人類の集合的推論を上回る知性だ。非整合の超知能は、アメリカの利益以上に中国の利益にも仕えない。共有されるリスクは実存的であり、それゆえに正しい戦略は一方的な速度競争ではなく、国際的な協調だ。私たちは冷戦期に核兵器についてUSSRと協調した。前例は存在する。.

超知能が到来する前にアライメントを解決するだろう。.

今日のチャットボットでさえ、わずか数分で操作されてしまう現状では、確実なアライメントは不可能だ。. 「アライメント問題には、いかなる規模でも検証済みの解決策がない。」. Current safety methods are not keeping pace with capability improvements, which are now arriving in months, not years. Claiming we will align a system billions of times more capable is hope, not confidence. Governance does not require solving alignment; it requires slowing deployment until alignment is solved.

政府は技術を規制できない。ただイノベーションを阻害するだけだ。.

政府は航空、医薬品、原子力、金融システムといった複雑な技術を規制している。問題は規制するかどうかではなく、 どのように、いつ. 医薬品規制は医薬品をなくさなかった。安全にしたのだ。ハイリスク技術を規制する前例は豊富で、概ね成功している。AI安全規制が狙うのは最も危険なフロンティアシステムであって、一般的なAI開発ではない。イノベーションと安全は対立しない。.