누가 그것을 구축
마더가 아니야

벤보렌 제작자 또는 악 한. Superintelligence는 직원을 수용하지 않습니다.

일반적인 논쟁은 고용 결정이다 : 첫 번째 superintelligence의 청구에 인센티브를 넣고 최악의 사람들을 멀리 유지합니다. 도구에 대해 어떻게 이야기하고 있습니다. Superintelligence는 도구에 남아 있지 않습니다.

뚱 베어

그들은 약, 과학, 더 나은 세상을 원한다. 그들의 가치는 신속하고 보드 메모로 이동합니다. 널 보다는 더 똑똑한 체계는 둘 다의 주위에 노선 할 수 있습니다.

그들은 무기, 스파이 서비스, 잠긴 이점을 원합니다. 그들은 여전히 명령을 취하기 위해 시스템을 필요로하고, 그 연산자를 outthinks는 그들을 가지고하지 않습니다. 첫 번째는 그들이 책임에 머물지 않는다.

여행 정보 에너지와 에너지. 블록 종료. 자주 묻는 질문 이 단계는 거의 모든 목적을 돕습니다. 그들은 창시자의 도덕을 검사하지 않습니다.

더 좋은 회사에 가게하지 마십시오. Prohibit 인공 superintelligence, 확인 된 법률. 선택 인간은 아직도 그것을 건설하는지 여부.

Narrow AI는 여전히 도구이므로 사기, 무기 및 감시에 대한 문제가 있습니다. Builder ethics는 시스템 자체 과정을 한 번 돕습니다.

Nobody는 빌더를 포함한 superintelligence를 제어합니다.

전체 인수: nakadafoundation.org/blog/amodei-primary-concern-wrong-danger/