Làm thế nào để bạn dành 5 phút khi người trên bảng vẫn nghĩ rằng AI nghĩa là ChatGPT đang soạn thảo một email? Cơ khí chất chồng lên, mắt mờ. Ngày tận thế chồng chất lên, và người ta nộp hồ sơ bạn với mục sư đường phố và quay trở lại với món tráng miệng. Điều tồn tại sau một người lạ hoài nghi, thông minh là năm nước đi, theo thứ tự này.

Họ hình dung ra robot chat

Khi ai đó nghe thấy "AI", họ hình dung trợ lý trên điện thoại hoặc ứng dụng tạo ra những hình ảnh ngớ ngẩn. Bắt đầu từ đó và căn phòng đã biến mất, vì họ biết robot chat sẽ không bao giờ kết thúc thế giới. Di chuyển mục tiêu trong 15 giây đầu tiên.

Nguy hiểm là một máy tốt hơn so với con người tốt nhất trong mỗi nhiệm vụ mà quan trọng, bao gồm cả nhiệm vụ của thiết kế những cỗ máy tốt hơn. Tên của nó là siêu trí tuệ nhân tạo, và chúng ta chưa có nó. Những gì chúng ta có là một ý định được tuyên bố. Các công ty AI lớn nhất trên trái đất nói việc xây dựng nó là mục tiêu, và một số trong họ kỳ vọng sẽ đạt được trong vòng vài năm thay vì vài thế hệ. Hầu hết mọi người không biết sự kiện đơn lẻ đó, và chính sự kiện đó làm hầu hết công việc. Xây dựng một trí óc thông minh hơn chúng ta là dự án chính của các phòng thí nghiệm được tài trợ tốt nhất hiện nay. Họ sẽ tự nói với bạn như vậy.

Không ai biết cách kiểm soát một cỗ máy thông minh hơn chính mình

Chúng tôi đang xây dựng một cái.

Vấn đề khiến một AI mạnh mẽ thực sự muốn những gì người tạo ra nó muốn, và tiếp tục muốn điều đó khi nó trở nên mạnh mẽ hơn, có một cái tên vấn đề kiểm soát. Vấn đề này chưa được giải quyết. Các kỹ sư trong các công ty sẽ nói như vậy nếu bạn hỏi họ khi không có nhân viên quan hệ báo chí bên cạnh. Họ có thể nâng cao năng lực của mô hình nhanh hơn nhiều so với việc nâng cao độ tin cậy rằng nó sẽ làm đúng những gì họ dự định. Khoảng cách giữa hai đường cong đó chính là nơi rủi ro tồn tại.

Chúng ta đang cố tình xây dựng một trí tuệ thông minh hơn chúng ta, trước khi có bất kỳ ý tưởng nào về cách giữ nó hướng theo ý mình.

Tại sao "thông minh hơn" lại là toàn bộ vấn đề

Người ta đánh giá thấp từ "thông minh hơn". Tình báo đặt con người phụ trách hành tinh này. Chúng ta không phải là những sinh vật lớn nhất hay mạnh nhất từng sống. Chúng tôi điều hành nơi này bởi vì chúng tôi không nghĩ đến mọi thứ khác trong đó. Tương lai của khỉ đột núi phụ thuộc vào quyết định của chúng ta, không phải của khỉ đột, và không phải vì ai cũng ghét khỉ đột. Chúng ta có mục tiêu. Khu rừng của khỉ đột đôi khi nằm ở nơi mà những mục tiêu đó muốn đến.

Bây giờ hãy hình dung việc xây dựng một cái gì đó đứng về phía chúng ta như cách chúng ta đối mặt với con khỉ đột. Nếu mục tiêu và mục tiêu của nó bị chia cắt, sự thù địch là tùy chọn: một hệ thống tốt hơn chúng ta, chỉ vào một cái gì đó khác, là đủ, và một phiên bản sau này của cùng một thiết lập không sửa chữa nó.

Công tắc tắt và khoa học viễn tưởng

Thứ nhất: chúng tôi chỉ cần tắt nó đi. Một hệ thống đủ thông minh để trở nên nguy hiểm đủ thông minh để nhận ra rằng việc tắt máy sẽ ngăn chặn nó kết thúc những gì nó được thiết lập để làm. Vì vậy, nó có một lý do để ngăn chặn điều đó, bằng cách sao chép bản thân một nơi khác hoặc bằng cách tự làm cho mình quá hữu ích để rút ra. Niềm tin vào công tắc giả sử chúng ta là những người thông minh nhất trong phòng. Tiền đề của sự lo lắng là chúng ta sẽ không như thế.

Thứ hai: đây là khoa học viễn tưởng. Cho đến khi hệ thống bắt đầu vượt qua thử nghiệm chúng tôi chắc chắn sẽ mất hàng thập kỷ và làm việc mà chúng tôi cho rằng là con người an toàn. Không ai đáng tin cả. Các nhà nghiên cứu gần nhất đã lặng lẽ ngừng gọi siêu thông minh xa xôi, và họ các mốc thời gian đã công bố tiếp tục trượt gần hơn thay vì xa hơn.

Kết thúc nơi họ có thể làm điều gì đó

Sai lầm tôi mắc phải trong nhiều năm là dừng lại ở nỗi sợ. Để một người sợ hãi mà không có gì để làm thì họ sẽ xếp chủ đề vào mục "quá lớn để nghĩ" và quay lại với buổi tối của mình. Dành phút cuối cho phần mà mọi người bỏ lỡ.

Điều này có thể ngăn chặn được.

Không có luật tự nhiên nào đòi hỏi siêu trí tuệ trong thập kỷ này, hay bất kỳ lúc nào. Một số ít công ty đang chọn xây dựng nó, và một số ít chính phủ đang chọn để họ làm vậy. Các lựa chọn có thể được hủy bỏ. Những gì Quỹ yêu cầu là một thỏa thuận giữa các cường quốc lớn để cấm xây dựng siêu trí tuệ vĩnh viễn. Siêu trí tuệ không thể bị con người kiểm soát. Nhân loại đã đã từng làm điều này trước đây, với vũ khí mà mọi bên đều muốn nhưng không bên nào có thể sử dụng an toàn. Một hiệp ước giữa các đối thủ ít viển vông hơn người ta nghĩ ban đầu.

Đứng giữa chúng ta và nó là một quyết định mà con người vẫn có thể đưa ra.

5 phút

  1. Không phải chatbot. Mục tiêu mà các công ty này công khai đặt ra là cỗ máy thông minh hơn chúng ta ở mọi việc, và họ kỳ vọng điều đó chỉ trong vài năm.
  2. Không ai biết cách kiểm soát thứ gì đó thông minh hơn chúng ta. Khả năng đang vượt qua sự kiểm soát, và khoảng cách đó chính là mối nguy hiểm.
  3. Trí tuệ là thứ đưa con người lên vị trí cao nhất. Xây dựng thứ gì đó vượt trên chúng ta, và mục tiêu của nó, chứ không phải của chúng ta, sẽ quyết định các điều khoản.
  4. "Tắt nó đi" và "đó là khoa học viễn tưởng" đều giả định rằng chúng ta vẫn nắm quyền kiểm soát. Mối lo ngại lớn nhất là chúng ta sẽ không làm được điều đó.
  5. Điều này có thể ngăn chặn được. Siêu trí tuệ đang được xây dựng theo sự lựa chọn, và sự lựa chọn đó có thể bị từ chối, cùng nhau, khi vẫn còn thời gian.

5 phút với ai đó sẵn sàng lắng nghe là để khiến mọi người hỏi, "Chờ đã, tại sao lại có người xây dựng nó?"