초지능은 더 이상 워싱턴, 브뤼셀, 베이징에서 변두리 문서가 아니다. 남은 질문은 속도다. 정부가 통제해야 할 시스템보다 더 빠르게 움직일 수 있느냐이다.
11월 2023일, 28개국은 Bletchley Declaration에 서명한 최초의 국제 협약은 "전반적으로 catastrophic"이라는 고급 AI 포즈 위험이 있음을 인정합니다. signatories는 미국, 중국, 영국, 유럽 연합 및 아시아, 아프리카 및 남아메리카의 국가를 포함했습니다. 계약은 모든 것이지만 프린트 문서입니다. 국가 및 수석 장관의 책임자는 서명했습니다.
UK은 블레츨리 파크에서 첫 AI 안전 정상회의를 주최했습니다. 두 번째는 서울에서 열렸습니다. 세 번째는 파리에서 이어졌습니다. AI 안전 연구소로 출범해 UK(AI 보안 연구소)과 US(AI 표준 및 혁신 센터)로 개명된 정부 AI 연구소 국제 네트워크가 현재 존재하며, 미국·영국·유럽연합의 기구들이 연구를 공유하고 위험 틀을 조율하고 있습니다. 이 중 어떤 것도 4년 전에는 존재하지 않았습니다.
미국 상원에서 인공지능 위험은 진정으로 초당적인 문제 중 하나가 되었습니다. 척 슈머는 2023년 인공지능 통찰 포럼을 소집했습니다. 조시 홀리는 초지능을 "인류 역사상 가장 위험한 기술"이라고 불렀습니다. 마르코 루비오는 인공지능 위험을 겨냥한 법안을 발의했습니다. 위협이 이념을 존중하지 않기 때문에 우려는 당파를 초월합니다.
유럽연합은 2024년에 AI 법을 통과시켰으며, 이는 위험 수준에 따라 인공지능 시스템을 규제하는 세계 최초의 포괄적 법적 틀입니다. 가장 능력이 뛰어난 최전선 모델은 가장 엄격한 요건을 적용받습니다. 불완전한 입법입니다. 동시에 규제 당국이 상당한 벌금을 부과할 권한을 가진 구속력 있는 법률이기도 합니다.
중국은 알고리즘 투명성과 콘텐츠 라벨링 의무를 포함한 자체 초지능 거버넌스 규정을 발표했습니다. 중국은 블레츨리 정상회의와 서울 정상회의에도 참여했습니다. 중국을 초지능 거버넌스에 관여하기를 꺼림 잘못되었다.
2025년 워싱턴에서 2023년 AI 안전 경영진을 재창조하고 AI Action Plan을 실시했습니다. GUS1 연구소는 AI 표준 및 혁신 센터가되었습니다. 캘리포니아는 국경을 막아주는 법. GEUG 행위는 신청하기 시작했다. 인도는 2026 정상 회의를 호스팅했습니다. 아직 법률 금지는 superintelligence를 구축.
2026년 정치 상황은 2020년 정치 상황과 전혀 다릅니다. 그 변화는 사람들이 밀어붙였기 때문에 일어났습니다. 지금 구축 중인 시스템이 거버넌스 문제를 답할 수 없게 만들기 전에, 변화는 계속되어야 하고, 반드시 그래야 합니다.
US, UK, EU, 중국을 포함한 28개국이 선진 AI가 잠재적으로 재앙적인 위험을 초래한다는 점을 인정하는 최초의 국제 협정에 서명했습니다. 블레츨리 파크에서 열린 AI 안전 정상회의는 최전선 AI 위험 평가를 위한 공동 프레임워크를 만들어냈습니다.
유럽연합은 세계 최초의 포괄적인 AI 규제 체계를 통과시켜 가장 유능한 프런티어 모델에 엄격한 요건을 부과했다. 위반 시 전 세계 매출의 최대 3퍼센트에 해당하는 벌금이 부과된다. 이 법은 27개 회원국 전체에 구속력을 가지며 EU 내에서 배포되는 모든 AI 시스템에 적용된다.
US 상원은 인공지능 위험에 관한 초당적 청문회를 열고, OpenAI의 샘 올트먼, 주요 연구자, 정책 전문가의 증언을 듣는다. 이 청문회는 인공지능 실존적 위험이 US 입법 감독 최고위에서 처음으로 실질적으로 논의된 순간이다.
GUS1, GUKG, 및 GEUG은 배포하기 전에 catastrophic 위험에 대한 국경 AI 시스템을 평가하기 위해 인공 지능 안전 연구소를 설립. 이 연구소는 superintelligence 위험 평가에 대한 최초의 공식 정부 인프라를 나타냅니다. GUK body 몸은 이제 AI 보안 연구소입니다. GUS G 몸은 이제 AI 표준과 혁신 센터입니다. 평가 작업은 표준 및 보안 부족에 따라 계속됩니다.
워싱턴은 2023 AI 안전 경영진 주문을 재촉하고 가속 개발 주변의 국가 계획을 발표했습니다. 연방 안전 기관은 이름과 retasked. 아무도 prohibits superintelligence.
정부는 뉴델리에서 만나다. 공중 출력은 발달 첫번째입니다. 참여 정부는 prohibit superintelligence에 동의합니다.
OpenAI, 구글, 마이크로소프트, 메타, 그리고 Amazon은 2023년과 2024년에 워싱턴에서 수억 달러를 로비에 썼습니다. 기술 산업은 미국에서 가장 큰 기업 로비 세력입니다. 전직 규제 당국자, 전직 입법자, 전직 백악관 관료를 고용하고 있습니다. 이것이 모든 초지능 거버넌스 노력이 극복해야 할 힘입니다.
로비는 무작위가 아니라 표적화되어 있습니다. 초지능 개발을 제한할 수 있는 특정 입법 메커니즘, 즉 컴퓨트 임계값, 의무적 안전 평가, 책임 프레임워크에 집중합니다. 실질적인 책임을 만들 모든 조치는 이를 약화시키거나 저지하려는 자금력 있는 캠페인에 직면합니다.
인공지능 능력은 GPT-2에서 시작해 불과 육 년 만에 대부분의 인지 벤치마크에서 대다수 인간을 능가하는 수준까지 발전했습니다. 주요 입법은 보통 발의부터 통과까지 사 년에서 팔 년이 걸립니다. 기술은 거버넌스가 따라잡기를 기다리지 않습니다.
이 불일치는 입법 긴급성을 일차적 우선순위로 다루고, 일정을 단축하는 정책 활동에 자금을 대고, 더 빠른 행동을 강제하는 대중 압력을 구축해야 한다는 주장을 뒷받침합니다. 속도 불일치는 정치적 문제이지 물리 법칙이 아닙니다.
안전 규제는 보통 재난 뒤에 따라오지, 그 전에 앞서지 않습니다. 안전벨트 법은 수십 년간의 교통사고 사망 이후에 만들어졌습니다. 금융 규제는 위기 이후에 강화되었습니다. 예방적 규제를 위한 정치적 메커니즘은 대부분의 민주주의 국가에서 제대로 발전하지 않았습니다.
초지능의 경우 재앙 우선 모델은 받아들일 수 없습니다. 정렬되지 않은 초지능은 시정 기간을 제공하지 않습니다. 이것이 바로 핵무기 통제에서 본받은 예방적 거버넌스가 필요한 이유입니다 핵 비확산 위기 후 규제가 아니라 사전 예방이 올바른 틀입니다. 과거에 효과가 있었고, 다시 작동하게 하려면 정치적 기반을 구축해야 합니다.
담배 산업은 담배 광고를 제한하는 것이 불가능하다고 말했습니다. 자동차 산업은 안전벨트 의무화가 자동차 판매를 파괴할 것이라고 말했습니다. 화학 산업은 염화불화탄소 금지가 현대 제조업을 끝장낼 것이라고 말했습니다. 각 경우에 불가능하다는 주장은 사실이 아니라 로비 입장이었습니다. 각 경우에 규제는 결국 이루어졌습니다.
AI 위험에 대한 오버턴 창은 역사상 탁월한 기술 문제보다 빠르게 변화했습니다. 2020년에, superintelligence 위험은 학문적인 논문 및 온라인 포럼에서 1 차적으로 논의된 주제였습니다. 2026년에, 그것은 모든 G7 정부의 의제에 있습니다. 상태의 수석 머리는 공개 주소에서 "외부 위협"을 사용합니다. 그 변화는 연구원, 기자, 시민에 의해 지속 된 권고의 결과입니다.
AI 안전을위한 정치 연합은 형성된다. 국가보안에 대해 걱정할 수 있는 보수가 포함되어 있으며, 기업의 손잡이에 힘의 농도가 있습니다. 그것은 역사상 가장 중요한 기술 결정에 대한 인구학적 통찰력의 부재에 대해 걱정하는 진보적 인. 그것은 믿음 지역 사회, 과학자, 예술가 및 부모를 포함합니다.
국제적 모멘텀은 실재합니다. 블레츨리 과정, 인공지능 연구소들의 국제 네트워크, 그리고 떠오르는 UN 거버넌스 논의는 어떤 기술 분야에서도 가장 빠른 국제 인공지능 정책 인프라 구축을 나타냅니다. 조각들이 모이고 있습니다. 문제는 그것들이 충분히 빠르게 모일 것인지이며, 그 질문은 충분한 사람들이 밀어붙이느냐에 달려 있습니다.
우리와 함께 동참하여 행동하지 않는 것을 정치적으로 불가능하게 만드는 압력을 구축하세요.