Siêu trí tuệ không còn là hồ sơ bên lề ở Washington, Brussels hay Bắc Kinh. Câu hỏi còn bỏ ngỏ là tốc độ: liệu các chính phủ có thể di chuyển nhanh hơn các hệ thống mà họ được cho là phải quản lý hay không.
Vào tháng 11 năm 2023, 28 quốc gia đã ký bản Tuyên Ngôn Víchley, thỏa thuận quốc tế đầu tiên công nhận rằng AI tiên tiến có nguy cơ là "một thảm họa toàn diện." Các ký hiệu bao gồm cả Hoa Kỳ, Trung Quốc, Anh Quốc, Liên Hiệp Âu Châu và các quốc gia trên khắp châu Á, Phi Châu và Nam Mỹ. Thỏa thuận chỉ là một tài liệu. Lãnh đạo quốc gia và bộ trưởng cấp cao đã ký vào.
UK đã tổ chức Hội nghị Thượng đỉnh An toàn AI đầu tiên tại Bletchley Park. Hội nghị thứ hai diễn ra tại Seoul. Hội nghị thứ ba tiếp theo tại Paris. Một mạng lưới quốc tế các viện AI của chính phủ hiện đã tồn tại, được khởi xướng dưới tên Viện An toàn AI, sau đổi tên ở UK (Viện An ninh AI) và US (Trung tâm Tiêu chuẩn và Đổi mới AI), với các cơ quan tại Hoa Kỳ, Vương quốc Anh và Liên minh Châu Âu chia sẻ nghiên cứu và phối hợp các khuôn khổ rủi ro. Tất cả những điều này chưa tồn tại cách đây bốn năm.
Trong Thượng viện Hoa Kỳ, rủi ro AI đã trở thành một trong những vấn đề thực sự lưỡng đảng hiếm hoi. Chuck Schumer tổ chức các Diễn đàn Hiểu biết AI năm 2023. Josh Hawley gọi siêu trí tuệ là "công nghệ nguy hiểm nhất trong lịch sử nhân loại." Marco Rubio đã trình luật nhắm vào rủi ro AI. Mối lo ngại vượt đường lối đảng phái vì mối đe dọa không tôn trọng hệ tư tưởng.
Liên minh Châu Âu thông qua Đạo luật AI năm 2024, khuôn khổ pháp lý toàn diện đầu tiên trên thế giới điều chỉnh cụ thể các hệ thống AI theo mức độ rủi ro. Các mô hình biên giới mạnh nhất phải chịu các yêu cầu nghiêm ngặt nhất. Đó là luật không hoàn hảo. Nhưng đó cũng là luật có hiệu lực, được thực thi bởi các cơ quan quản lý có thẩm quyền áp dụng mức phạt lớn.
Trung Quốc đã ban hành các quy định quản trị siêu trí tuệ riêng, bao gồm yêu cầu minh bạch thuật toán và ghi nhãn nội dung. Trung Quốc tham gia Hội nghị thượng đỉnh Bletchley và Hội nghị thượng đỉnh Seoul. Hình ảnh Trung Quốc như không sẵn lòng tham gia vào quản trị siêu trí tuệ là sai.
Vào năm 2025 Washington bãi bỏ lệnh bảo vệ an toàn của AI năm 2023 và xuất bản một kế hoạch hành động AI được xây dựng xung quanh gia tốc. Học viện US đã trở thành trung tâm tiêu chuẩn AI và sự đổi mới. California thông qua một luật vạch trần biên giới. Đạo luật GEU bắt đầu được áp dụng. Ấn Độ tổ chức hội nghị thượng đỉnh năm 2026. Vẫn chưa có luật cấm xây dựng trí tuệ siêu việt.
Tình hình chính trị năm 2026 trông hoàn toàn khác với tình hình chính trị năm 2020. Sự thay đổi đó xảy ra vì mọi người đã thúc đẩy nó. Nó có thể tiếp tục thay đổi, và phải thay đổi, trước khi các hệ thống đang được xây dựng khiến câu hỏi quản trị trở nên không thể trả lời.
28 quốc gia, bao gồm US, UK, EU và Trung Quốc, ký thỏa thuận quốc tế đầu tiên công nhận AI tiên tiến đặt ra rủi ro "tiềm ẩn thảm khốc". Hội nghị Thượng đỉnh An toàn AI tại Bletchley Park tạo ra khuôn khổ chung để đánh giá rủi ro AI tiên phong.
Liên minh Châu Âu thông qua khuôn khổ quy định AI toàn diện đầu tiên trên thế giới, áp đặt các yêu cầu nghiêm ngặt đối với các mô hình tiên phong có khả năng mạnh nhất. Vi phạm bị phạt tới 3% doanh thu toàn cầu. Luật có hiệu lực ràng buộc trên 27 quốc gia thành viên và áp dụng cho bất kỳ hệ thống AI nào được triển khai trong EU.
Thượng viện US tổ chức một loạt phiên điều trần lưỡng đảng về rủi ro AI, với lời khai của Sam Altman từ OpenAI, các nhà nghiên cứu hàng đầu và các chuyên gia chính sách. Các phiên điều trần đánh dấu lần đầu tiên rủi ro tồn vong của AI được thảo luận một cách thực chất ở cấp cao nhất của giám sát lập pháp US.
Hệ thống điện tử AUS, hệ thống điều hành EUK, và vội lập nên viện bảo vệ AI với nhiệm vụ đánh giá hệ thống AI với rủi ro thảm họa trước khi triển khai. Những viện này đại diện cho cơ sở hạ tầng chính thức đầu tiên của chính phủ cho đánh giá rủi ro siêu thông minh. Cơ thể của máy bay không người lái giờ là Viện An ninh AI. Cơ thể của máy bay không người lái giờ là trung tâm tiêu chuẩn và đổi mới. Công việc đánh giá vẫn tiếp tục trong thời gian ngắn tiêu chuẩn và an ninh, chứ không phải lệnh cấm.
Washington bãi bỏ đơn đặt hàng an toàn của AI 2023 và công bố một kế hoạch quốc gia được xây dựng xung quanh việc tăng tốc phát triển. Viện an toàn liên bang được đổi tên và được giao nhiệm vụ lại. Không có cái nào cấm sự thông minh siêu nhiên.
Chính phủ họp mặt ở New Delhi. Đầu tiên là đầu ra công chúng. Không tham gia chính phủ nào đồng ý ngăn cấm sự thông minh siêu việt.
OpenAI, Google, Microsoft, Meta, và Amazon đã chi hàng trăm triệu đô la cho hoạt động vận động hành lang tại Washington năm 2023 và 2024. Ngành công nghệ là lực lượng vận động hành lang doanh nghiệp lớn nhất tại Hoa Kỳ. Họ thuê cựu quan chức quản lý, cựu nghị sĩ, và cựu quan chức Nhà Trắng. Đây là lực lượng mà bất kỳ nỗ lực quản trị siêu trí tuệ nào cũng phải vượt qua.
Hoạt động vận động hành lang được nhắm mục tiêu, không ngẫu nhiên. Nó tập trung vào các cơ chế lập pháp cụ thể có thể kiềm chế phát triển siêu trí tuệ: ngưỡng compute, đánh giá an toàn bắt buộc, khung trách nhiệm pháp lý. Mọi biện pháp tạo ra trách nhiệm giải trình thực sự đều gặp phải chiến dịch được tài trợ tốt để làm suy yếu hoặc đánh bại.
Khả năng AI đã tiến từ GPT-2 đến các hệ thống vượt trội hơn hầu hết con người ở hầu hết các tiêu chuẩn nhận thức chỉ trong chưa đầy sáu năm. Luật lớn thường mất từ bốn đến tám năm từ khi được đề xuất đến khi thông qua. Công nghệ không chờ đợi quản trị bắt kịp.
Sự chênh lệch này đòi hỏi phải coi tính cấp thiết của lập pháp là ưu tiên hàng đầu, tài trợ cho công việc chính sách rút ngắn thời gian, và xây dựng áp lực công chúng buộc hành động nhanh hơn. Sự chênh lệch tốc độ là vấn đề chính trị, không phải định luật vật lý.
Quy định an toàn thường theo sau thảm họa, chứ không đi trước. Luật dây an toàn ra đời sau hàng thập kỷ tử vong giao thông. Quy định tài chính thắt chặt sau các cuộc khủng hoảng. Cơ chế chính trị cho quy định phòng ngừa chưa phát triển tốt ở hầu hết các nền dân chủ.
Với siêu trí tuệ, mô hình thảm họa trước không thể chấp nhận. Một siêu trí tuệ lệch lạc không cho phép giai đoạn sửa chữa. Đó là lý do cần quản trị phòng ngừa, mô phỏng theo không phổ biến hạt nhân thay vì quy định sau khủng hoảng, là khuôn khổ đúng đắn. Nó đã từng hiệu quả trước đây. Nó đòi hỏi xây dựng hạ tầng chính trị để làm nó hoạt động trở lại.
Ngành công nghiệp thuốc lá từng nói rằng việc hạn chế quảng cáo thuốc lá là không thể. Ngành công nghiệp ô tô từng nói rằng bắt buộc thắt dây an toàn sẽ phá hủy doanh số xe hơi. Ngành công nghiệp hóa chất từng nói rằng cấm CFC sẽ chấm dứt sản xuất hiện đại. Trong mỗi trường hợp, tuyên bố về sự bất khả thi chỉ là lập trường vận động hành lang, không phải sự thật. Trong mỗi trường hợp, quy định vẫn được ban hành.
Cửa sổ Overton trên AI rủi ro đã thay đổi nhanh hơn bất kỳ vấn đề công nghệ tương tự trong lịch sử. Vào năm 2020, rủi ro siêu thông minh là một chủ đề được thảo luận chủ yếu trên các báo khoa học và diễn đàn trực tuyến. Vào năm 2026, nó có mục đích của mỗi chính phủ G7. Những người đứng đầu bang sử dụng cụm từ "sự đe dọa hiện hữu" trong các địa chỉ công cộng. Sự thay đổi này là kết quả của việc các nhà nghiên cứu, nhà báo và công dân tiếp tục ủng hộ đề tài này.
Liên minh chính trị cho an toàn AI đang hình thành. Nó bao gồm những người bảo thủ lo lắng về an ninh quốc gia và sự tập trung quyền lực trong một số ít các tập đoàn. Nó bao gồm những người tiến bộ lo lắng về sự vắng mặt của sự giám sát dân chủ về những quyết định công nghệ có hệ quả nhất trong lịch sử. Nó bao gồm các cộng đồng tín ngưỡng, khoa học gia, nghệ sĩ và cha mẹ.
Đà quốc tế là có thật. Quy trình Bletchley, mạng lưới viện AI quốc tế và các cuộc thảo luận quản trị UN đang nổi lên đại diện cho việc xây dựng cơ sở hạ tầng chính sách AI quốc tế nhanh nhất trong bất kỳ lĩnh vực công nghệ nào. Các mảnh ghép đang lắp ráp. Câu hỏi là liệu chúng có lắp ráp đủ nhanh hay không, và câu hỏi đó phụ thuộc vào việc liệu có đủ người đẩy hay không.
Tham gia cùng chúng tôi và giúp xây dựng áp lực khiến sự không hành động trở nên không thể chấp nhận về mặt chính trị.