테이블을 통해 사람이 여전히 AI를 생각하면 ChatGPT가 전자 메일을 초래 할 때 5 분을 보내는 방법? Mechanism는, 눈 유약을 쌓습니다. 톰 더미, 그리고 사람들은 거리 설교자로 당신을 파일하고 디저트로 돌아. 무균의 생존, 지능형 낯선은 5 이동,이 순서.

그들은 챗봇을 상상한다

누군가가 "AI를 듣는 경우,"그들은 휴대 전화 또는 응용 프로그램에 조수를 그림합니다. 거기에 시작하고 방은 이미 사라지기 때문에 chatbot이 세상을 끝낼 수 없습니다. 첫 번째 십초에서 목표를 이동합니다.

위험은 모든 작업에서 최고의 인간보다 더 나은 기계입니다. 더 나은 기계를 설계하는. 그것의 이름은 인공 초지능, 에 관한 주장입니다. 우리는 아직 그것을 가지고 있지 않습니다. 우리가 가진 것은 진술된 의도입니다. 지구상 최대 인공지능 기업들은 그것을 구축하는 것이 목표라고 말하며, 그중 몇 곳은 수십 년이 아닌 수년 안에 도달할 것으로 예상합니다. 대부분의 사람들은 이 단일 사실을 모르고 있으며, 그 사실이 대부분의 일을 합니다. 우리보다 똑똑한 마음을 만드는 것은 가장 많은 자금을 지원받는 연구소들의 주요 프로젝트입니다. 그들은 스스로 그렇게 말할 것입니다.

아무도 스스로 기계 스마트를 제어하는 방법을 알고

우리는 1개의 어쨌든 건축하고 있습니다.

강력한 인공지능이 제작자가 원하는 것을 안정적으로 원하게 하고, 능력이 커져도 계속 원하게 만드는 문제에는 이름이 있습니다 통제 문제. 이는 미해결이다. 해당 기업 내부 엔지니어들도 언론 담당자 없이 물으면 같은 말을 할 것이다. 그들은 모델의 능력을 의도한 대로 작동할 것이라는 확신보다 훨씬 빠르게 끌어올릴 수 있다. 두 선 사이의 거리가 위험이 존재하는 곳이다.

우리는 우리의 길을 유지하는 방법을 전혀 모르는 상태에서, 의도적으로 우리보다 똑똑한 마음을 만들고 있다.

"더 똑똑함"이 문제의 전부인 이유

사람들은 "smarter"라는 단어를 이해합니다. 지능은이 행성의 책임에 인간의 넣어. 우리는 가장 크고 강력한 생물이 아닙니다. 우리는 우리가 그 위에 다른 모든 것을 꺼내기 때문에 장소를 실행합니다. 산 고릴라의 미래는 우리에게서 만든 결정에 따라 달라집니다, 고릴라에 의해하지, 누구가 고릴라를 싫어하기 때문에. 우리는 목표가 있습니다. gorilla의 숲은 때때로 그 목표를 가고 싶어.

이제 그림 건물 우리가 gorilla에 서 우리에게 서있는 방법. 목표와 ours가 apart를 올 경우, hostility는 선택 사항입니다 : 우리가보다 계획하는 시스템보다 더 나은, 뭔가에 지적, 이미 충분하고, 같은 설정의 나중에 버전은 그것을 수정하지 않습니다.

전원 끄기 스위치와 공상 과학

첫 번째 : 우리는 단순히 꺼낼 것입니다. 위험 할 정도로 체계가 부족하다는 것은 떨어졌다는 것을 멈출 것입니다. 그래서 그것을 방지 하는 이유가 있다, 그 자체를 복사 하 여 다른 사람 또는 그 자체 너무 유용 하 게. 떨어져 스위치에 있는 믿음은 우리가 방에 더 똑똑한 당을 체재하는 것을 가정합니다. 걱정의 전제는 우리가하지 않을 것입니다.

두 번째 : 이것은 과학 소설입니다. 그것은 우리가 10 년을 복용하고 우리가 살고있는 일을하는 것이 안전 한 테스트가 시작될 때까지이었다. 아무도 신뢰의 날짜가 있습니다. 연구자들은 가장 가까운 일을 조용히 멈춰 superintelligence를 멀리 호출하고, 그들의 공개된 타임라인 더 멀어지지 않고 더 가까워지며 미끄러지듯 다가옵니다.

그들이 무언가를 할 수 있는 곳에서 끝내세요

수년간 제가 저지른 실수는 두려움에서 멈춘 것이었습니다. 아무것도 할 일이 없는 두려운 사람을 두면 그 주제를 "생각하기에는 너무 큰 것"으로 분류하고 저녁으로 돌아갑니다. 마지막 순간은 사람들이 놓치는 부분에 쓰십시오.

이것은 예방할 수 있습니다.

자연 법칙이 이번 10년 안에, 혹은 아예 초지능을 요구하는 것은 아닙니다. 소수의 기업이 이를 만들기로 선택했고, 소수의 정부가 이를 허용하기로 선택했습니다. 선택은 되돌릴 수 있습니다. 재단이 요구하는 것은 구속력 있고 검증 가능한 주요 강대국 간의 합의 초지능 구축을 영구히 금지하기 위해서다. 초지능은 인간이 통제할 수 없다. 인류는 이전에 해본 적 있다, 모든 진영이 원했지만 어느 진영도 안전하게 사용할 수 없었던 무기들과 함께. 경쟁자들 사이의 조약은 처음 들었을 때보다 덜 비현실적입니다.

우리와 그것 사이에 아직 사람들이 내릴 수 있는 결정이 놓여 있습니다.

5분

  1. 챗봇이 아닙니다. 이 기업들이 공개적으로 밝힌 목표는 모든 면에서 우리보다 똑똑한 기계이며, 그들은 수년 내에 그것을 기대합니다.
  2. 우리보다 똑똑한 무언가를 통제하는 방법은 아무도 모른다. 능력이 통제를 앞지르고 있으며, 그 격차가 위험이다.
  3. 지능이 인간을 정점에 올려놓았다. 우리 위에 무언가를 만든다면, 그 목표가 우리의 목표가 아니라 그 목표가 기준을 정한다.
  4. "끄라"와 "그건 공상과학이야" 둘 다 우리가 통제권을 유지한다고 가정한다. 진짜 걱정은 우리가 그러지 못할 것이라는 점이다.
  5. 예방할 수 있습니다. 초지능은 선택으로 만들어지고 있으며, 아직 시간이 있을 때 그 선택을 함께 거부할 수 있습니다.

누군가가 듣는 데 5 분은 "왜 누구인지?"라고 물어주고 있습니다.