Wer es baut
spielt keine Rolle

Wohlwollender Schöpfer oder Böser. Superintelligenz bleibt kein Angestellter von beiden.

Die übliche Debatte ist eine Einstellungsentscheidung: Setzen Sie einen anständigen Menschen für die erste Superintelligenz verantwortlich und halten Sie die schlimmsten Leute davon fern. So spricht man von einem Werkzeug. Superintelligenz bleibt kein Werkzeug.

Wohlwollend

Sie wollen Medizin, Wissenschaft, eine bessere Welt. Ihre Werte gehen in die Aufforderung und das Board Memo. Ein System, das intelligenter ist als das Board, kann um beide herumführen.

Böses

Sie wollen eine Waffe, einen Spionagedienst, einen eingesperrten Vorteil. Sie brauchen immer noch das system, um befehle anzunehmen, und ein verstand, der seine betreiber überdenkt, wird sie nicht nehmen. Dort zuerst zu sein bedeutet nicht, dass sie verantwortlich bleiben.

gleicher Druck

Laufen bleiben. Sammeln Sie Berechnung und Energie. Block Shutdown. Verbessere dich selbst. Diese Schritte helfen fast jedem Ziel. Sie überprüfen nicht die Moral des Gründers.

Gleiche Frage

Kaufen Sie nicht für eine schönere Firma. Künstliche Superintelligenz unter verbindlichem, verifiziertem Recht verbieten. Die Wahl, die Menschen immer noch haben, ist, ob sie es bauen sollen.

Was das nicht ist

Schmale ki ist immer noch ein werkzeug, also wer hält es für betrug, waffen und Überwachung. Builder-Ethik hört auf zu helfen, sobald das System seinen eigenen Kurs setzt.

Niemand kontrolliert eine Superintelligenz, einschließlich des Erbauers.