1970년대 초 생물학자들은 한 유기체의 유전자를 다른 유기체에 접합하는 법을 배웠다. 재조합 DNA는 의학과 생물학을 동시에 열었고, 그것을 발명한 사람들을 두렵게 했다. 그들은 변형된 유기체가 실험실에서 빠져나와 아무도 막을 방법을 모르는 피해를 일으킬 가능성을 배제할 수 없었다. 그래서 그들은 거의 전례 없는 일을 했다. 멈춘 것이다.

1974년 미래 노벨상 수상자들을 포함한 주요 연구자들이 가장 위험한 재조합 DNA 실험에 대한 자발적 모라토리엄을 공개적으로 촉구했습니다. 1975년 2월 약 140명의 과학자와 변호사, 언론인이 캘리포니아 아실로마 회의장에서 만나 작업이 안전하게 재개될 조건을 결정했습니다. 그들은 위험에 맞춘 격리 조치 틀을 내놓았고, 연구는 합의된 안전장치 아래 재개되었습니다. 최전선 AI 일시 정지를 지지하는 사람들에게 이것이 기준점입니다. 스스로의 위험을 인식하고 속도보다 신중함을 선택한 분야입니다.

아실로마가 진정으로 옳게 한 것

그 성과는 실제이며 명확히 언급할 가치가 있습니다.

과학자는 기술 안전의 전체 역사에서 가장 희귀하고 가장 가치있는 것 인 한 후 재해 전에 행동했습니다. 그들은 그들의 자신의 일에 구속을 허용, 약속된 명성과 진전을 포함하여, 위험이 그것을 보장하기 때문에. 그리고 그들은 위험의 수준에 부합하는 실제 규칙을 건설, 오히려 위험을 무시하거나 필드를 비난하는 것보다. 연구 지역 사회가 자신의 국경을 볼 수 있다는 증거로 서, 그것은 너무 위험하게 판단, 다시 잡고. 즉, precedent는 주장에 직접 재발견입니다. 강력한 기술을 추구하는 것은 네이티브 또는 불가능합니다..

왜 그것이 보이는 것보다 더 어려운 모델인가

선례를 솔직하게 말하려면 AI가 더 어려운 사례인 이유를 밝혀야 합니다. 차이점들이 바로 아실로마가 성공한 이유이기 때문입니다.

  • 그것은 작고 통합된 공동체였습니다. 수십 개의 연구소, 하나의 과학 문화, 서로 아는 사람들. 최전선 인공지능은 수조 달러 규모의 기업과 국가 간 글로벌 경쟁으로, 공유된 테이블이 없습니다.
  • 1975년에는 상업적 이해관계가 미미했습니다. 생명공학 산업은 아직 거의 존재하지 않았습니다. 인공지능은 지구상 최대 기업들과 국가 안보 기관이 이미 깊이 관여한 상태로 등장합니다. 이는 경쟁 동역학 아실로마가 직면하지 못한.
  • 재시작이 목표였다. 아실로마는 무기한 중단이 아니라 안전한 조건으로 계속 진행할 방법을 찾기 위해 설계되었습니다. 그 격리 모델은 위험을 물리적 실험실 안에 가둘 수 있다고 가정했습니다. 유능한 인공지능은 그런 방식으로 분명히 격리할 수 없습니다.

또한 냉정한 후일담이 있다. 아실로마 합의는 이해관계가 일치하는 좁은 순간이었기 때문에 부분적으로 유지되었으며, 그때도 더 상업적이고 경쟁적인 분야가 압박할 자발적 선의에 의존했다. 140명의 동료 과학자들 사이에서 작동했던 것이 치열한 승리 압력 아래 분열된 글로벌 산업으로 straightforward하게 확장되지는 않는다.

아실로마는 일시 중지가 가능함을 증명한다. 또한 일시 중지가 필요로 하는 조건과 현재 인공지능이 그 조건을 얼마나 갖추지 못했는지도 보여 준다.

Voluntary goodwill 이다 충분히 용 AI

Asilomar의 두 반. 그것은 아무것도 수행 할 수없는 운명을 굴절, 강력한 기술은 느리게 될 수 없다. 과학자들은 그것을했고, deliberately, 하늘이 떨어지지 않았다. 그러나 그것은 또한 AI가 작은 커뮤니티, 낮은 지분을 부족하기 때문에 1975 년에 일한 비공식 메커니즘, 자갈 위험이 적은 AI에 충분하지 않다는 것을 보여줍니다. 올바른 결론은 AI가 Asilomar가 달성 할 수있는 것을 필요로한다는 것입니다, 위험 전에 실제, 조 달러 글로벌 경주가 필요로하는 국제 기계, AI가 자신의 Asilomar를 필요로하지 않다는 것을 알 수있다.