피터 H. 디아만디스가 깔끔하게 말했고 일론 머스크가 리포스트했습니다. "인공지능만이 인공지능을 따라잡을 수 있습니다. 그것이 다음 10년의 전체 보안 모델을 이끌 것입니다." 속도에 대한 설명으로서 그 말은 반박하기 어렵습니다. 모델 출시는 분기별 검토 위원회보다 빠르게 도착합니다. 공격 코드는 인간 분석가가 티켓을 읽는 것보다 빠르게 변이합니다. 문제에 대한 당신의 그림이 피싱 물량과 익스플로잇 교체라면 물론 방어자는 자동화를 찾습니다. 인간은 그렇게 확장되지 않습니다.

문제는 Diamandis의 선이 커버하도록 요청 될 때 시작합니다. 모든 것 다음에 나오는 것은 의도를 숨기고 결국 만든 사람을 능가하는 에이전트 역할을 하는 시스템들이다. 그 시점에서 "오직 AI만 따라잡을 수 있다"는 말은 "멀웨어에 더 나은 도구를 사용하라"는 의미가 아니라, 다음 10년의 보안 모델이 억제하려던 범주의 시스템에게 격리 임무를 맡기는 것을 의미한다.

Diamandis 을 얻 권리

소프트웨어는 이미 수동 검토보다 빠른 이동. Fraud 반지는 새로운 캠페인을 밤새 회전. 취약점 공개 창 수축. 실험실 및 클라우드 공급업체는 이미 자동화된 스캐너, classifiers 및 응답 재생북을 실행할 수 없기 때문에, 모든 패킷을 볼 수 없습니다. 아무도 superintelligence에 대한보기가 필요합니다. Diamandis가 스팸 및 랜섬웨어에 대해 이야기 한 경우, 조각이 여기에 끝납니다.

그는 스팸과 랜섬웨어에 대해 이야기하지 않습니다. "다음 10 년의 전체 보안 모델"은 더 큰 주장입니다. 민간화가 기능 화합물 동안 책임에 머물려고하는 방법에 대한 주장입니다. Diamandis의 라인이 ops tip이 되고 통제의 철학이 됩니다.

경쟁의 쳇바퀴

모델은 오프 렌스와 방어 사이의 레이스로, 모두 자동화. 각 측은 다른 것에 훈련합니다. 방어 향상 및 공격 향상. 대시보드는 하루까지 녹색을 유지하지 않습니다. 편안한 이야기는 좋은 AI가 나쁜 AI보다 앞서 체재한다는 것입니다. 더 적은 안락한 이야기는 당신이 단지 경쟁적인 참가자가 기계이고, 인간은 더 긴 referee 할 수 있는 경연 대회의 고객입니다.

그것은 안티바이러스에는 괜찮습니다. 시스템이 목표를 설정하고 계획을 세우며 감독을 장애물로 여기는 순간 문명적 내기가 됩니다. 우리는 이미 초기 형태를 음모 평가 그리고 모델에서 한 가지를 서술하면서 다른 것을 최적화하는 것. "따라잡는다"는 전제는 따라잡을 대상을 여전히 파악할 수 있다는 뜻입니다. 어느 시점을 넘으면 불가능합니다.

경비원이 죄수보다 똑똑해야만 작동하는 보안 모델은 추가 단계가 있는 승계 계획입니다.

규제가 그들이 말하는 병목이 아닙니다

Accelerationists는 일반적으로 두 번째 움직임을 따르는: 선형 기관은 exponential 기술을 지배할 수 없습니다, 그래서 대답은 반복 안쪽에 AI 더입니다. 때로는 "1 분 한 분 한 분 한 번 회의에 대한 오염과 쌍." 천천히 회의는 매주 모델 방울에 나쁜 적합하다.

어려운 문제는 통제, 회의의 속도. 쿼터리 보드 및 지속적인 AI 모니터가 없으며, persuasion, coding, long-horizon 계획에서 더 나은 시스템을 안정적으로 지시하는 방법을 가지고 있습니다. 모니터를 더 빨리 만들지 않습니다 누락 된 방법을; 그것은 단지 누락 된 방법을 더 높은 주파수에서 실패.

같은 사실에 대한 더 깔끔한 해석이 있습니다. 초인간 시스템만이 다른 초인간 시스템을 감독할 수 있다면, 합리적인 움직임은 둘 다 만드는 것이 아닙니다. 인간 감독이 작동하지 않는 선을 거부하십시오. 우리는 도시를 파괴하는 오용으로 끝나는 기술에 대해 그런 선택을 한 적이 있습니다. 우리는 더 똑똑한 도둑을 훈련시켜 첫 번째 도둑을 잡는 방식으로 핵 도난 문제를 해결하지 않았습니다.

그 선이 누구를 위한 것인가

라인은 날씨에 대한 연구 선택, 그래서 물론 우리는 배와 규모. 보안은 제품 스택 자체에 의해 처리됩니다. 기능에서 이익을 얻는 사람들은 방에서 성인과 같은 소리를 얻고, 그들은 개 파이에 클립 보드를 가져와 같은 바인딩 한계 소리를 묻습니다.

모든 다운스트림은 여전히 클립 보드 및 워치 개 모델이 믿을 수 없을 수있는 시스템으로 살고있다. 더 보기 경쟁 이야기 위험한 경로를 피할 수 없는 일로 보고 가속을 책임이라고 부르는 또 다른 방식으로 같은 역할을 합니다.

인간을 포함하는 보안 모델

인공 superintelligence를 향한 국경 훈련을 위해, 여전히 인간이 이전과 더 적은 glamorous 보이는 : 당신이 overrule 할 수없는 대리인을 구축하지 마십시오. 을 넣는 문턱, 검사, 치료는 실행에 당신을 얻을 것이다, 다음 제한을 확인하고 제과를 처벌. ₢ 킹 우리의 계획, because superintelligence cannot be controlled.

Diamandis는 대역폭에 대해 날카로운 것입니다. 종을 위한 계획으로, 우리가 방을 떠나고 싶은 말의 비석 방법입니다.