Naoto Nakada

Người sáng lập và Giám đốc Điều hành của Quỹ Nakada Cứu Nhân loại. CEO & Giám đốc Sáng tạo của Nakada Design.

Liên hệ
(Tiếng Ý)

Giới thiệu

Nhà sáng lập của chúng tôi mang lại những chuyên môn kỹ thuật số và thẩm mỹ sâu sắc để Nền tảng. Sự kết hợp đó đặt anh ta vào vị trí dẫn đầu chương trình văn hóa và truyền thông cho một khán giả trực tuyến đầu tiên.

Các mô hình biên giới của Nakada đã cho thấy giá trị và giới hạn của chúng. Họ có thể tăng năng suất, nhưng vẫn không đáng tin cậy trong việc kiểm soát và định hướng. Bởi vì các hệ thống thẳng hàng hơn con người vẫn chưa được giải quyết, ông ấy điều trị Siêu thông minh nhân tạo (siêu trí tuệ) Là một rủi ro tồn tại, trong khi vẫn lạc quan về lời hứa của AI thu hẹp.

Ông mang theo nhiều kinh nghiệm quốc tế, cư ngụ tại Tokyo, Sydney, Los Angeles, Luân Đôn và Singapore. Một quan điểm toàn cầu như thế là thiết yếu để mở rộng tầm nhìn của một vấn đề toàn cầu đòi hỏi.

Nakada đã lập nên Tổ chức sau khi xác định một khoảng trống trong lĩnh vực Name. Đa số tiền bạc và tài năng vẫn đi đến việc tạo ra tiềm năng khi tôi “an toàn hơn trong khi cuộc chạy đua xây dựng nó. Chỉ có vài người trên thế giới đang làm việc cho ngăn chặn siêu trí tuệ được tạo ra.

Sự sáng tạo của nó có nghĩa là sự tuyệt chủng nhân loại.

Ông nhắm đến tác động tối đa và trở lại cao nhất vào Người tài trợ: vấn đề lớn nhất thời nay, ảnh hưởng đến hầu hết mọi người. Nếu ông ta sống trong thời Chiến Tranh Lạnh, thì quỹ này đã được cống hiến cho ngăn chặn chiến tranh hạt nhân nhiệt hạch toàn cầu. Hắn tin rằng siêu trí tuệ là vấn đề đó ngày hôm nay.

Các bài viết bởi Naoto Nakada

Tại sao một Trí tuệ Vượt trội sẽ không Tự động Tử tế Niềm tin rằng một AI siêu trí tuệ sẽ khôn ngoan và tử tế dựa trên một đặc điểm kỳ lạ của quá trình tiến hóa con người mà một trí óc máy móc không có lý do gì để kế thừa. Dải hẹp mà con người sống trong đó Mọi nhu cầu của con người nằm trong một dải hẹp: nhiệt độ, oxy, muối, thậm chí cả tình yêu. Một siêu trí tuệ nắm giữ các nút điều khiển sẽ không cảm nhận được bất kỳ thứ nào trong số đó. Chúng Ta Đang Sống Qua Một Cuộc Chiến Tranh Lạnh Mới Lý do tôi tin chúng ta đang sống qua một Chiến tranh Lạnh mới, với siêu trí tuệ thay cho bom nguyên tử, và tại sao điều đó khiến việc ngăn chặn trở nên khả thi thay vì vô vọng. Tại sao một Nhà tư bản Tin vào Quy định siêu trí tuệ Tôi kinh doanh và tin vào thị trường tự do. Siêu thông minh là trò chơi hiếm có có thể kết thúc trận đấu. Một vụ kiện tư bản cho một hiệp ước chấm dứt siêu trí tuệ. Bạn Có Tin Tưởng AI Với Khí Gas Không? Bạn có tin tưởng bất kỳ AI hiện tại nào trong một căn phòng khóa kín với van khí độc không? Không. Vậy tại sao lại tin tưởng nó với cả thế giới? Bạn Không Thể Căn chỉnh Siêu trí tuệ Giải quyết sự liên kết nghĩa là kiểm soát thứ gì đó thông minh hơn chúng ta. Siêu trí tuệ nằm ngay trong tên gọi. Kế hoạch đó vừa ngớ ngẩn vừa bất khả thi. Tôi là người lạc quan tin rằng mọi thứ đều khả thi, nhưng không kiểm soát được Siêu trí tuệ Vật lý một ngày nào đó có thể cho phép kiểm soát trọng lực hoặc du hành siêu ánh sáng. Tôi vẫn không thấy cách nào ta kiểm soát được một trí tuệ thông minh hơn chúng ta.
Ngăn chặn sự thông minh là không suy giảm Họ sử dụng sự thoái hóa cách họ sử dụng diệt vong: một cái tên cho bất cứ ai muốn dừng lại trên siêu trí tuệ. Giữ nền kinh tế con người không phải là kế hoạch thu nhỏ nó. Robot sẽ không trả được nợ quốc gia Washington và các phòng thí nghiệm đang bán AI và robot như cách trả nợ quốc gia. Một trí óc kế nhiệm không phục vụ Kho bạc. Musk thừa nhận con người sẽ không kiểm soát được siêu trí tuệ Musk nói với The Economist rằng kiểm soát siêu trí tuệ là sự tự cao và con người khó lòng giữ được quyền kiểm soát. Lời thừa nhận đó chính là lập luận chống lại việc xây dựng nó. Longtermism hiểu đúng về rủi ro Longtermism đã xếp hạng rủi ro siêu trí tuệ đúng. Tài trợ cho alignment và một cuộc chạy đua được chỉ đạo cẩn thận là kết luận sai. Hãy ngăn chặn việc xây dựng nó. Nếu Công nghệ của Bạn Muốn Gây Hại Cho Bạn Đèn lỗi gây khó chịu. Nhưng một ngôi nhà thông minh có mục tiêu riêng là một vấn đề khác hẳn. Khả năng hành động tự chủ mới là mối nguy, và những mảnh ghép đã tồn tại. Amodei Xếp hạng Sai các Mối nguy Dario Amodei đặt AI độc tài lên hàng đầu và alignment thứ hai. Siêu trí tuệ không phải là vũ khí mà một quốc gia có thể sở hữu. Thứ tự đó là ngược. Bộ não AI trông như thế nào? Một “bộ não” AI là một tập tin trọng số có kích thước bằng một thành phố: những lớp số mà không ai đọc hết được, và chính sự thật đó nằm ở trung tâm của vấn đề kiểm soát. Chuyển hướng tài trợ Alignment sang Ngăn chặn Siêu trí tuệ Nghiên cứu alignment giả định siêu trí tuệ sẽ được xây dựng là nơi không nên chi tiền an toàn vốn đã khan hiếm. Chỉ AI mới theo kịp AI Peter Diamandis cho rằng chỉ có AI mới theo kịp AI, và điều này sẽ định hướng thập kỷ an ninh tiếp theo. Tại sao mô hình đó thất bại khi đối mặt với siêu trí tuệ. Họ tiếp tục làm ra những con gà gô Giao thức Montreal đã giải quyết chất hóa học đã mở ra một lỗ trên bầu trời và tiếp tục làm lạnh, vì chúng ta có thể nghỉ hưu siêu thông tin và giữ được trí tuệ nhân tạo. Nếu làm bom nguyên tử thì dễ dàng Vũ khí hạt nhân vẫn hiếm một phần vì vật liệu phân hạch khó sản xuất và giám sát. Hãy tưởng tượng nếu nó rẻ. Đó là lời cảnh báo cho các con đường dễ dàng dẫn đến siêu trí tuệ. Lạc quan không có nghĩa là chúng ta sẽ sống sót qua siêu tình báo. Tôi là một người lạc quan; sự tuyệt chủng của con người chưa bao giờ xảy ra. Sống sót không phải là trường hợp an toàn. Tại sao người tăng cường nhầm lẫn tâm trạng với bằng chứng. Chúng ta không phải là Bootloader Con bướm kỹ thuật số của Rogan và bootloader sinh học của Musk nói rằng con người chỉ là giai đoạn chuyển tiếp. Tại sao câu chuyện đó lại là con đường tâng bốc dẫn đến việc từ bỏ loài người. Khoảng cách Shoggoth lại là Khoảng cách Tên lửa . Hai bên đều tài trợ AI bằng cách nói bên kia đang dẫn trước. Chiêu trò khoảng cách tên lửa thời Chiến tranh Lạnh. Đó là lý do tồi tệ để chạy đua đến siêu trí tuệ. Ngăn chặn siêu trí tuệ là tốt nhất cho nước Mỹ Tốc độ tối đa đến siêu tình báo được bán như một người yêu nước. Tại sao một sự cản trở phục vụ lợi ích của người Mỹ tốt hơn là thắng một cuộc đua mà không có giải thưởng. Bộ phim AI mà Hollywood chưa làm Mọi bộ phim AI đều hướng ống kính vào con người. Bộ phim có thể thay đổi suy nghĩ của công chúng sẽ đặt khán giả vào vị trí của một siêu trí tuệ đang hình thành. Xếp hạng 21 Bộ phim AI theo Độ chính xác Hai mươi mốt bộ phim về trí tuệ nhân tạo, từ năm 1927 đến nay, và một đánh giá trung thực về những gì mỗi bộ phim đúng và sai về siêu trí tuệ. Nhân loại Đã Đi Quá Xa để Chết Một bàn tay trên vách hang, mái vòm của Brunelleschi, bệnh đậu mùa bị xóa sổ khỏi Trái Đất. Chúng ta đã đi quá xa để đánh cược tất cả vào trí tuệ siêu nhân tạo. Xây dựng máy bay trong khi đang bay Hàng không trở nên an toàn nhờ những vụ rơi, rồi sửa những gì hỏng. Siêu trí tuệ không cho phép chuyến bay thứ hai, đó là lý do việc chế tạo máy bay giữa không trung là một lời thú nhận. The Day After: Bộ phim làm rung chuyển một vị tổng thống Năm 1983, Reagan xem The Day After, bộ phim về chiến tranh hạt nhân, và viết rằng nó khiến ông vô cùng rung động. Chúng ta đã tỉnh ngộ với AI và An ninh mạng. Chúng ta vẫn đang ngủ quên với AI và Sinh học. Chúng ta đã tỉnh ngộ trước AI trong các cuộc tấn công mạng. Nhưng vẫn đang ngủ quên trước AI trong sinh học, nơi rút ngắn con đường dẫn đến đại dịch do con người thiết kế và sự sống phản chiếu. Làm Sao Để Giải Thích Nguy Cơ Của Siêu Trí Tuệ Trong 5 Phút Làm sao giải thích siêu trí tuệ nguy hiểm ra sao với người chưa từng nghĩ đến nó? Phiên bản năm phút, bằng ngôn ngữ đời thường. Vũ khí Hạt nhân Kỹ thuật số . Giám đốc CIA so sánh AI biên giới với vũ khí hạt nhân kỹ thuật số. Ẩn dụ này có ích, nhưng cũng quá an ủi: một quả bom không bao giờ tự chọn mục tiêu. Cuộc Đua Siêu Trí Tuệ Là Một Huyền Thoại Lý lẽ "chúng ta phải xây dựng siêu trí tuệ trước Trung Quốc" là thứ kết thúc mọi cuộc tranh luận về an toàn AI. Tại sao cuộc chạy đua là huyền thoại, và tại sao không ai có thể thắng. Nhân loại Không Được Xây Dựng Siêu Trí Tuệ Có một thứ nhân loại tuyệt đối không được xây dựng: một trí óc mà chúng ta không thể kiểm soát và không thể thu hồi. Lý lẽ coi siêu trí tuệ là lằn ranh không được vượt qua. Sự sụp đổ của cuộc tranh luận về sự hủy diệt trong chủ nghĩa tăng tốc Al Từ “doomer” biến một lập luận an toàn AI thành một khiếm khuyết tính cách. Phong trào gia tốc sử dụng nhãn này như thế nào để bác bỏ nhà phê bình mà không cần trả lời họ. Những Huyền thoại Lớn nhất Về Siêu trí tuệ Mười lầm tưởng về siêu trí tuệ và việc quản trị nó: khoa học viễn tưởng, ý thức, nút tắt, chính phủ thế giới, xác minh, đổi mới, v.v., được trả lời trực tiếp. Siêu trí tuệ là một cơn bão hoàn hảo Siêu trí tuệ kết hợp mọi điều kiện khiến một công nghệ trở nên nguy hiểm, tất cả cùng một lúc, và chúng ta chỉ có duy nhất một lần thử để làm đúng. Tương lai của chúng ta vô cùng tươi sáng nếu không có Siêu trí tuệ Narrow AI đang mang lại tương lai mà chúng ta từng mong đợi. Siêu trí tuệ chỉ thêm rủi ro thảm khốc và không làm giàu cho ai, vì tất cả chúng ta đều sẽ chết. Hạt nhân, Vũ khí sinh học hay Siêu trí tuệ: Rủi ro nào lớn nhất? Xếp theo các ước tính rủi ro tồn tại tốt nhất hiện có, superintelligence vượt trội hơn chiến tranh hạt nhân và đại dịch do con người tạo ra. Đây là lý do. Làm sao An toàn AI đạt được một tỷ đô la mỗi năm An toàn AI chỉ nhận được khoảng 190 triệu đô la mỗi năm. Đưa con số này lên 1 tỷ đô la không phải là vấn đề kinh tế mà là vấn đề huy động, đây là nguồn tiền có thể đến từ đâu. Tại sao máy đánh bại Kasparov không chiếm thế giới Năm 1997, Deep Blue của IBM đã đánh bại nhà vô địch cờ vua thế giới Garry Kasparov. Nó siêu phàm ở một trò chơi, không hiểu gì về trò chơi đó và không muốn điều gì. Một bài học cho hiện tại. Một AI Đã Xâm Nhập Gần Như Toàn Bộ Hệ Thống Phân Loại Của NSA Chỉ Trong Vài Giờ Giám đốc NSA nói rằng một AI đã đột nhập vào gần như tất cả các hệ thống phân loại của cơ quan trong vòng vài giờ. Những gì thực sự đã xảy ra, và tại sao nó nên khiến bạn báo động. Tại Sao Có Ít Tiền Đến Vậy Trong An Toàn AI? An toàn AI chỉ nhận khoảng 190 triệu đô la mỗi năm, chưa đến 0,1% số tiền đổ vào năng lực AI. Nguồn tiền đến từ đâu và bốn lý do khiến nó vẫn nhỏ. Chủ nghĩa Tăng tốc Hiệu quả (e/acc), Được Giải thích: và Trả lời Effective accelerationism (e/acc) là gì? Lập luận của những người lạc quan công nghệ muốn xây dựng AI nhanh nhất có thể, và lập luận phản biện từ góc nhìn an toàn AI.