공공의 AI 안전에서 작동하는 거의 모든 사람들이 도머라고합니다. 이 라벨은 인수 전에 도착, 확률 또는 타임 라인에 대한 단어 전에 또는 "제어"는 의미. 위험을 낮추는 사람들은 먼저 라벨을 얻습니다. frightened, anti-future, doomer. 라벨을 건너 뛸 수 있습니다.

가속주의 쪽이 제일 잘 쓰는 수는 논리가 아니라 이름이다.

그 단어가 유래한 곳

2022년과 2023년경 인공지능 안전 논쟁은 연구자들 사이의 내부 대화에서 벗어나 소셜 미디어로 퍼졌고, 그곳에서 주장은 진영을 만들고 진영은 이름을 얻었습니다. 가속주의 진영(인공지능을 최대한 빨리 만들어야 한다고 믿는 사람들)은 접미사 "e/acc"를 상징으로 삼아 사용자 이름에 달았습니다. 그들은 반대 진영에도 이름이 필요했습니다. "둠러"가 그것이었고, 보통 "디셀"과 함께 쓰였습니다. 감속, 즉 더 천천히 가려는 죄를 뜻합니다.

마크 안드리슨이 "The Techno-Optimist Manifesto"를 발표했습니다. 그것은 creed보다 인수처럼 덜 읽고, 그것은 항목 중, "지속적 위험"과 "전사적 원칙"을 호출 할 수있는 일반적인 아이디어의 목록을 포함한다. 당신이 가늠자에 배치하기 전에 강력한 기술을 이해하려는 일반 아이디어. 스스로가 "그 적"의 밑에 신청되면 매일 사용을위한 짧은 라벨 만 필요한 사람들을 붙입니다. "Doomer"는 나머지, 대신 가속 사례.

그 라벨이 실제로 하는 일

둠러는 주장이 아니라 캐릭터입니다. 논쟁을 성격 유형으로 바꾸며, 성격 유형은 답할 필요 없이 진단만 받으면 됩니다.

안전 측은 superintelligent 체계에서 catastrophe의 기회가 우리가 체계를 건설하기 전에 이 체계를 통제하는 기능을 건설해야 하는 높은 충분한 (일부, 높은)입니다. 당신은 그의 모든 부분에 밀어 수 있습니다. 당신은 확률이 우리가 생각보다 낮을 수 있습니다, 그 타임 라인은 더 길다, 그 "제어"는 잘못된 프레임이다, 그 지배는 위험보다 더 해 할 것이다.

"둠어"는 그것을 건너뜁니다. 그 말은 당신이 내일을 두려워하는 부류의 사람이라고 말합니다. 당신의 입장은 논지가 아니라 기분이며, 기분은 반박할 필요가 없다는 것입니다. 이는 수사학에서 가장 오래된 수법, 즉 요점이 아니라 사람을 공격하는 논증을 새 옷을 입힌 것입니다. 그 우아함은 실제 불일치에 결코 손을 대지 않아도 된다는 점입니다. 싸움 전체를 "이게 사실인가"에서 "이걸 믿는 사람은 어떤 사람인가"로 옮기며, 가속주의자는 이미 답을 정해 놓았습니다.

그 단어는 주장을 성격 유형으로 바꾸며, 성격 유형은 대답할 필요 없이 진단만 하면 된다.

왜 효과가 있는가

그 라벨이 효과를 보는 이유는 사람들이 이미 자신에 대해 믿고 싶어 하는 것들로 만들어졌기 때문이다.

명백한 것부터 시작하십시오. 아무도 비관주의자가 되고 싶어하지 않습니다. 낙관주의는 자신감과 추진력으로 읽히고, 신중함은 소심함과 두려움으로 읽힙니다. 선택을 건설자 대 파멸론자로 규정하면 대부분의 사람들은 이미 어느 자리에 앉고 싶은지 압니다. 그 규정은 단 하나의 사실이 테이블에 오르기 전에 이미 역할을 다했습니다.

그것은 이야기 미국에 그 자체에 대해 말한다. 진행은 좋습니다. 철도를 두려워 한 사람들, 인쇄 프레스, 전기 빛이 잘못되었다, 그리고 역사는 속임수로 그들을 기억. 가속도는 선반 전체를 이야기하고 미래에 의해 embarrased 사람의 목록에서 가장 새로운 이름으로 안전 옹호를 던집니다. 이동은, 인수없이 가정하는 것입니다, 그것은 진실한 다시 이번에, 그 superintelligence는 인쇄 압박이고 새로운 무언가 아닙니다. 같은 이야기는 전체 질문이며, 라벨은 이렇게 질문하지 않습니다.

그 말이 겨냥하는 대상

그 비유를 적용받는 사람들을 줄 세워 보면 과장된 표현은 손에서 무너져 내린다.

제프리 힌턴은 2023 년에 구글을 남겼습니다. 그는 기업가 정신이없는 위험에 대해 이야기 할 수있었습니다. 그는 아버지가 현장으로 가까이 있습니다. 가장 인용 된 연구자 중 요슈아 벤지오는 자신의 작품에서 똑같은 걱정에 도착했습니다. 2023년 5월, 수백 명의 과학자 및 임원 (기술을 구축하기 위해 실험실의 지도자를 포함)는 같은 범주에서 AI에서 멸종 위험과 핵 전쟁으로 AI를 배치하는 성명에 자신의 이름을 넣어. 그들은 기술을 두려워하지 않습니다. 그들은이 것을 만들었습니다. 그 위치를 호출 할 때마다, "미래의 돌연변이"의 설명이 아닙니다, 그것은 그것을 듣지 않는 방법입니다.

낱말은 또한 도트에 넓은 스펙트럼을 아래로 평평하게 합니다. catastrophe를 생각하는 사람 사이의 엄청난 거리는 거의 특정하고 몇 %에 넣어 누군가가 보험을 원한다, prophet와 actuary 사이의 거리. 둘 다 도머로 filed를 얻습니다. 라벨은 결코 내장되지 않았기 때문에 차이를 볼 수 없습니다. 그 작업은 기술, 다양 한, 종종 매우 온건한보기의 세트는 한 야생 빛의 경작처럼 보인다. 실제 전문가 추정 범위 라벨은 지우기 위해 설계되었습니다.

그 암시

안전 질문에 대한 답변에 대한 운동은 묻은 사람들의 별명을 필요로하지 않을 것입니다.

catastrophic 위험이 실제로 0 근처에 있다면, 그것은 당신이 열린에 방어 할 수있는 주장이다. 이유보기. 시스템을 구축 한 연구원이 시스템을 구축 한 이유를 설명합니다. 더 보기 경우 alignment는 쉽고, 또는 더 큰 인텔리전스가 믿을 수 있는 더 중대한 배려를 가져오고, 또는 실험실 사이 인종은 누군가가 지방 구석을 삭감하기 전에 스스로 정정합니다.

"둠어"라는 말은 그 주장이 들어갈 자리를 채운다. 상대의 논점을 다루기 싫을 때 라벨을 잡는다. 상대를 이름 붙이는 것은 반박하는 것보다 싸고, 멀리서 보면 승리처럼 보이기 때문에 군중은 방금 본 것이 무엇인지 종종 구분하지 못한다.

그에 답하는 방법

틀 자체를 거부하십시오. 대화가 건설자 대 파멸론자가 되는 순간 실질은 이미 사라집니다. 한 가지 질문으로 다시 사물 수준으로 끌어오십시오. 당신은 재앙적 위험에 어떤 확률을 부여하고 있으며 그 숫자의 근거는 무엇입니까? '파멸'이라는 단어를 무기로 휘두르는 거의 누구도 답하지 못합니다. 그 단어가 있기 때문에 답할 필요가 없었기 때문입니다. 그런 숫자가 실제로 어떻게 만들어지는지 보고 싶다면 우리가 만든 멸망확률 계산기 조각들을 살펴보는.

그런 다음 주장을 꺼내. "Doomer"는 종종 더 좁고 멀리 둔다 주장 주장에 대한 주장 (그러브 중독성 pessimist)을 지배합니다. 이 특정 기술은 특정 치료를 보장하는 특정 위험을 나타냅니다. 그들을 붓는다. 더 보기 좋은 미래를 위한 주장 이 부분을 제대로 해결하는 길을 곧장 통과하며, 우회하지 않는다.

어떤 진영이 비판자에게 할 수 있는 가장 센 수가 상대에게 좋지 않은 이름을 붙이는 것이라면, 그 진영은 위험에 대한 답이 없는 것이다. 우리의 주장은 이것이다: 초지능은 되돌릴 수 없으니, 만들지 않는다.