Ai xây dựng nó
Không quan trọng

Kẻ tạo ra lòng nhân đạo hay ác quỷ. Siêu thông minh cũng không ở lại làm việc.

Cuộc tranh luận thông thường là một quyết định tuyển dụng: đặt một người tốt vào vị trí giám sát siêu thông minh đầu tiên, và giữ cho những người tồi tệ nhất tránh xa nó. Đó là cách bạn nói về một công cụ. Siêu thông minh không phải là một công cụ.

Xoay

Họ muốn y học, khoa học, một thế giới tốt đẹp hơn. Giá trị của họ đi vào thời điểm và bảng ghi nhớ. Một hệ thống thông minh hơn ban quản trị có thể đi vòng quanh cả hai.

Cái ác

Họ muốn một vũ khí, một dịch vụ gián điệp, một lợi thế bị khóa. Họ vẫn cần hệ thống để tuân theo mệnh lệnh, và một trí óc mà nghĩ rằng những người điều hành sẽ không chấp nhận họ. Đến đó trước không có nghĩa là họ vẫn nắm quyền.

Cùng áp lực

Chạy tiếp đi. Thu thập tính toán và năng lượng. Đóng cửa. Hãy cải thiện bản thân. Những bước này giúp ích cho hầu hết mọi mục tiêu. Họ không kiểm tra đạo đức của người sáng lập.

Cùng một yêu cầu

Không mua sắm cho một công ty tốt hơn. Luật cấm sử dụng các siêu thông tin nhân tạo được áp dụng, đã được xác nhận. Sự lựa chọn mà con người vẫn có là có nên xây dựng nó hay không.

Đây không phải là gì

Khu vực AI vẫn là một công cụ, nên ai giữ nó là vấn đề của gian lận, vũ khí và giám sát. Đạo đức xây dựng ngừng giúp đỡ một khi hệ thống định hướng riêng.

Không ai điều khiển được một siêu thông tin, kể cả người xây dựng.