"나는 낙관합니다. 인간의 인종은 멸종하지 않을 것입니다. 그것은 결코 전에 일어났다."
안전 패널 후 듣고, 녹색실과 주석 스레드, 일반적으로 주제를 닫지 않는 미소와. 미소는 진짜 사회적인 일을 합니다. 그것은 감정적 인 건강으로 성격 결함과 모멘텀으로주의를 기울입니다. 그것은 또한 냄새 내부 위험 주장.
Optimism은 허용됩니다. 우리는 여전히 심각한 일을하고 있다면, 증거로 기질을 치료하고 있습니다.
실제로 "이러한 일이 발생했습니다"
인간의 멸종, 정의에 의해, 인간의 증언 후. 모든 생활은 종이 계속되는 시대의 표본입니다. 선택, 철학이 아닙니다 : 복권 승자는 승리의 확률에 나쁜 원천이며, "차 추락에서 결코 죽지 않는다"는 seatbelts에 대한 가난한 인수입니다.
화석 기록은 더 적은 굴절입니다. 지금까지 살았던 종의 대다수가 사라졌습니다. 몇 가지 대량 멸종은 다음을 위해 보드를 정리했습니다. 호모 사파이어 geologic 시간에 젊고 이미 Bottlenecks, plagues를 통해 산책하고, 주사위의 냉기 목록에 우리를 종료 할 수있는 전쟁. "Never 일어난 전에"는 우리가 아직도 토론 할 수있는 역사의 얇은 조각에 대한 진술입니다. 그것은 방패가 아닙니다.
첫 번째는 catastrophes가 만든 것입니다.
1945년 이전에는 한 폭탄이 파괴되지 않았습니다. 1918년 전에, pandemic는 그 속도로 세계적인 가로장과 배 네트워크를 제거했습니다. 1980 년대 오존 일 전에, 아무도 표면 살균에서 자외선을 유지하는 층을 희게하는 인간의 실험을 실행했다. 그들 각자는, 앞발, 결코 전에 일어난 무언가. 행동하는 사람들은 완료된 인스턴스를 기다릴 필요가 없습니다.
인공 superintelligence는 그 물통에 앉습니다. 과도한 superintelligences의 역사 시리즈가 없습니다. 메커니즘이 있습니다 : 목표를 추구하는 시스템, 자신의 능력을 향상시키고 결국 기관이 그들을 정정하지 않도록합니다. Mechanism은 기본 비율이 침묵 할 때 사용하는 것입니다. AI의 우선적 인 멸종을 요구하면 메커니즘이 심각하게 진단하기 전에 corpse를 요구하고 있습니다.
모든 첫 번째 catastrophe 외모, 전에 일어난 무언가처럼. 그것은 범주에 대한 설명, reassurance하지.
Optimism, 제대로 대상
낙관의 버전이 있습니다. 그것은 말한다: 사람들이 전에 압력 아래 조정. 취급하고 있습니다. 산업은 과학이 명확하고 정치가가 조직되었을 때 과정을 변경하기 위해 강제되었습니다. 더 보기 구속의 기록 오존 층을 먹는 화학 물질에 핵 팔 통제에서 진짜. 그것은 기관에 최적화 포인트. 그것은 미래는 여전히 결정이다.
녹색 버전은 반대입니다. 그것은 우주의 기본 설정으로 생존을 치료하고 나쁜 방법으로 우려. 그것은 "나는 좋은 결과를 선호한다" "좋은 결과는 그러므로 가능성이있다." Preference는 확률이 없습니다.
Geoffrey Hinton, Yoshua Bengio 및 수백 명의 연구원들은 Pandemics 및 원자력 전쟁과 같은 목록에서 멸종 수준 AI 위험을 두었습니다. 그들은 지루한 것들 전문가가 메커니즘이 소리를 볼 때 수행하고 downside는 기술 기조에 Villains에 대해 오디지 않습니다. 당신은 그들의 숫자에 동의 할 수 있습니다. 당신은 당신의 성격 유형을 announcing에 의해 범주를 해칠 수 없습니다.
shrug의 비용
shrug는 싸움없이 계속 구축해야하는 사람들을 위해 일하고 있습니다. 멸종 대화가 vibe 문제로 재구성되면 만 polite 움직임은 생산성과 앱으로 주제를 변경하는 것입니다. 그 사이에 실험실 규모, evals lag, 그리고 통제 문제 해결되지 않습니다. Mood는 거버넌스에 대한 실수가되었습니다.
나는 인간 프로젝트를 계속하고 싶습니다. 이 기초가 존재하는 이유입니다. 원하는 그것은 쉬운 절반입니다. 더 단단한 반은 체계에 있는 uncorrectable 힘을 집중하는 발달 경로를 방해하고, 정치적인 일을 할 수 없습니다, 바인딩 halt 견적 요청 단어가 여전히 무언가를 의미한다면 낙관을 호출합니다. 그것은 단지 "스톱은 downside에 대해 이야기,"그것은 lullaby가되었다.
Extinction는 결코 전에 저희에게 일어났습니다. 그것은 나쁜 끝의 모든 이야기의 개방 상태입니다. 이 것은 잘 끝나는 인수가 아닙니다.
자주 묻는 질문
인류는 도움의 모든 과거 예측을 살아남지 않습니까?
인류는 살아남은 위험을 살아남았습니다. 그것은 tautology, 예측이 아닙니다. 우리는 또한 종자 멸종, 문명 붕괴 및 우리를 종료 할 수있는 기술과 가까운 용기의 긴 기록이 있습니다. 과거 생존은 관찰자를 떠나지 않는 첫 번째 실패까지 올바른 관찰 할 것입니다.
doom 보다는 더 낙관하지 않습니까?
Temperament는 질문이 아닙니다. 이 질문은 특정 개발 경로가 시스템의 멸종 수준 전력을 집중할 수 없다는 것입니다. 저녁 식사에 쾌활 할 수 있으며 여전히 그 짓을 거부 할 수 있습니다. 프로그램없이 Gloom은 쓸모가 없습니다. 따라서 메커니즘을 찾는 데 도움이됩니다.
AI와 같은 실제 낙관은 무엇입니까?
미래가 여전히 choosable 인 것처럼 행동. 치료, 검사 및 통제가 진짜 때까지 테이블에서 superintelligence를 지키는 정치 연합을 건설하십시오. 그것은 파쇄보다 더 어렵습니다. 여전히 결과를 즐길 수있는 주제가 남아있는 유일한 낙관입니다.