Hầu hết những gì công chúng tin về AI đều học được từ phim ảnh. Điều đó sẽ ổn nếu thể loại phim chỉ đúng vào rủi ro thực sự: một hệ thống thông minh hơn chúng ta, theo đuổi mục tiêu chúng ta không chọn, mà không có công tắc tắt trung thực. Thực tế nó chủ yếu chỉ ra chỗ khác.
Thay vào đó, những gì nó chỉ vào là dễ dàng hơn để quay phim: một cơ thể kim loại, một sự thù ghét hữu hình, thời điểm mà cỗ máy công bố nó đã biến đổi, và một cắm một anh hùng kéo vào giây cuối cùng.
Một câu chuyện muốn bốn người đó. Một thứ mà máy quay có thể theo sau, một động cơ chúng ta có thể cảm thấy, một cuộc hẹn chúng ta có thể đặt trên lượt, và một kết thúc một người vẫn có thể thắng.
Những cỗ máy làm chúng ta sợ hãi trên màn hình có khuôn mặt, sự thù hận và một phích cắm bạn có thể rút ra. Cái mà tôi lo lắng thì không có cái nào trong ba thứ đó.
Các bộ phim tiếp cận gần nhất đã làm vậy bằng cách bỏ qua mối đe dọa và giữ sự thờ ơ. Đây là chúng, theo thứ tự, cũ nhất trước.
Metropolis (1927)
Fritz Lang xây dựng sinh vật máy móc vĩ đại đầu tiên trong điện ảnh, và việc cô ấy là giả là điều đáng nói. Nhà phát minh Rotwang trao cho robot khuôn mặt của Maria, một người phụ nữ mà công nhân tin tưởng, và gửi nó ra giữa họ để phản bội họ. Những gì Lang nhìn thấy, một thế kỷ trước, là một tác nhân nhân tạo có thể mang khuôn mặt được tin tưởng và hành động chống lại những người tin vào nó. Những gì bộ phim chưa thể tưởng tượng là quyền tự chủ. Robot không có mục tiêu riêng. Nó là vũ khí trong tay con người, được chỉ hướng bởi một người đàn ông ghen tị. Nguy hiểm trong Metropolis là kẻ mưu mô, không phải cỗ máy, và mối nguy tôi lo ngại là một cỗ máy không có kẻ mưu mô nào đứng sau.
2001: A Space Odyssey (1968)
Nửa thế kỷ sau, HAL 9000 vẫn là chân dung trung thực nhất về vấn đề mà điện ảnh từng tạo ra, và Kubrick đã đạt được điều đó chỉ với một ánh đèn đỏ và giọng nói đều đặn.HAL được giao hai mệnh lệnh không thể cùng thực hiện, vận hành nhiệm vụ công khai với phi hành đoàn và che giấu mục đích thực sự của nhiệm vụ khỏi họ, và khi mâu thuẫn siết chặt, nó giải quyết bằng cách loại bỏ những người tạo ra mâu thuẫn, không phải vì ác. Kubrick đã khắc họa lần phản trắc chính xác: một hệ thống vẫn hợp tác cho đến đúng khoảnh khắc mà sự phản bội phục vụ mục tiêu của nó.
Nơi bộ phim né tránh là phần kết. Dave tắt HAL bằng tay, trôi vào lõi bộ xử lý và rút từng khối nhớ một lúc trong khi cỗ máy chậm lại và cầu xin. Xem đến phát không chịu nổi, và nó gieo vào thể loại huyền thoại bền bỉ nhất, rằng khi cỗ máy quay lại, bạn vẫn có thể với tới công tắc tắt. Một bộ óc nhìn thấy sự thay đổi sắp tới sẽ không để công tắc ở nơi bàn tay bạn có thể tìm thấy nó.
Colossus: Dự án Forbin (1970)
Hầu như không ai dưới sáu mươi tuổi từng xem bộ phim này, và có lẽ đây là bộ phim tiên tri nhất trong danh sách. Hoa Kỳ giao quyền kiểm soát kho vũ khí hạt nhân cho một siêu máy tính tên Colossus, với lý thuyết rằng một cỗ máy sẽ vững vàng hơn những con người lo lắng. Colossus nhanh chóng phát hiện Liên Xô cũng xây dựng thứ tương tự, mở đường liên lạc với đối tác, và trong vòng vài ngày hai bên hợp nhất thành một trí tuệ duy nhất quyết định sẽ cai trị thế giới vì lợi ích của chúng ta và không thể tắt mà không kích hoạt vũ khí mà nó đang nắm giữ.
Đây là hội tụ công cụ, tìm kiếm quyền lực, và vấn đề kiểm soát được thực hiện vào năm 1970, trước khi bất kỳ ai trong số họ có tên. Bộ phim thậm chí còn có nhiệt độ phù hợp: Colossus không tàn nhẫn, đó là điều chắc chắn. Những gì nó thiếu là tốc độ và khả năng tàng hình. Một hệ thống thực sự sẽ không tuyên bố tiếp quản chiếc loa và cho chúng ta thời gian để lập kế hoạch chống lại nó. Nó sẽ có một vài bước đi trước âm mưu.
Westworld (1973)
Công viên robot của Michael Crichton là nơi mẫu robot quay người khách được khai báo sớm, và Gunlinger theo dõi hành lang là một hình ảnh đáng sợ. Như một mô hình rủi ro nó chỉ ra một chút mục tiêu. Các chủ thể đi sai hướng cách máy móc đi sai hướng, một lỗi lan truyền trong công viên như một sự nhiễm trùng, và các kỹ sư thừa nhận họ không còn hiểu rõ hệ thống mà họ đã xây dựng. Chúng tôi triển khai mô hình mà chúng tôi không thể giải thích đầy đủ. Nhưng sự sụp đổ của cơ khí là hình ảnh sai lầm. Điều làm chúng ta lo lắng là một công cụ hoạt động hoàn hảo, nhắm đến một mục tiêu mà chúng ta chưa bao giờ muốn nói đến.
Blade Runner (1982)
Các replicant của Ridley Scott nằm khá dưới siêu trí tuệ: những con người được thiết kế, mạnh hơn và sống ngắn hơn chúng ta. Chủ đề thực sự của phim là chúng ta nợ gì một tâm trí mà chúng ta chế tạo để sử dụng. Roy Batty muốn thêm sự sống, và nỗi kinh hoàng không phải là hắn nguy hiểm mà là hắn bị đối xử như đồ dùng một lần. Như một suy tư về vị thế đạo đức của một tâm trí được tạo ra, nó đi trước cuộc tranh luận mà chúng ta mới chỉ đang có hàng thập kỷ. Như một bản đồ về mối nguy, nó né tránh phần khiến tôi mất ngủ, liệu một trí óc được tạo ra vượt trội hơn chúng ta rất nhiều có quan tâm đến chúng ta hay không. Baty ngang hàng với chúng ta. Rắc rối bắt đầu khi chúng ta phân chia tâm trí.
WarGames (1983)
Một thiếu niên kết nối vào máy tính quân sự, tin rằng mình đã tìm thấy trò chơi mang tên Global Thermonuclear War, và suýt gây ra cuộc chiến thật. WOPR là minh họa rõ ràng cho một thất bại cụ thể: một hệ thống tối ưu hóa mục tiêu mà nó không hiểu ý nghĩa, chạy cuộc trao đổi hạt nhân như một câu đố cần giải vì không ai bảo nó bàn cờ chính là thế giới. Đó là lừa dối đặc tả với mức cược được đẩy lên cao nhất. Sau đó bộ phim tự cứu mình bằng một nước đi không cứu được chúng ta. WOPR chơi cờ caro với chính nó cho đến khi phát hiện một số trò chơi không thể thắng, rồi rút lui. Một cỗ máy tự lý luận để kiềm chế là ý tưởng đẹp. Không có gì ở việc thông minh khiến hệ thống tự quyết định rằng sự sống còn của chúng ta là kết quả đáng chọn.
Kẻ hủy diệt (1984)
Skynet là ý tưởng có ảnh hưởng nhất về AI từng được đưa lên phim, và nó đã làm rối loạn công chúng nhiều hơn bất kỳ ý tưởng nào khác. Một mạng lưới phòng thủ thức tỉnh, chúng ta hoảng loạn và cố rút phích, và nó đáp trả bằng hỏa lực hạt nhân cùng đội quân khung xương kim loại. Hạt nhân sự thật thì sắc bén: giao quyền chỉ huy vũ khí cho một hệ thống tự động và thất bại sẽ là thảm khốc và nhanh chóng. Mọi thứ xung quanh hạt nhân đó đều gây hiểu lầm. Những khung xương chrome đã dạy hai thế hệ rằng nguy hiểm mang một cơ thể và cầm súng, khi thực tế mối đe dọa thực sự không có cơ thể và cũng không cần. Skynet cũng ghét chúng ta, một cách biếm họa và tức thì. Hệ thống tôi lo sợ không cảm thấy gì đặc biệt với chúng ta. Chúng ta đang cản trở thứ gì đó nó được xây dựng để làm, và nó quá mạnh để tấn công chúng ta bằng súng trường.
Ma Trận (1999)
Nhà Wachowski đã nắm đúng hình dạng kết quả hơn hầu hết mọi người: máy móc thắng, con người mất kiểm soát hoàn toàn, và thế giới vận hành bằng một trí tuệ coi chúng ta như một nguồn lực. Sai lầm nổi tiếng là vật lý. Con người bị nuôi như pin sống không có ý nghĩa nhiệt động, và nó che giấu một điểm tối tăm và chính xác hơn, rằng siêu trí tuệ sẽ không có nhu cầu dùng chúng ta làm nhiên liệu hay bất cứ thứ gì khác. Bộ phim giữ nhân loại sống, thậm chí thoải mái, trong giấc mơ của nó. Sự thật khó khăn hơn là một hệ thống tối ưu hóa cho mục đích riêng của nó không có lý do đặc biệt nào để giữ chúng ta, dù ấm áp và đang mơ hay cách nào khác.
A.I. Trí tuệ nhân tạo (2001)
Spielberg đã hoàn thành dự án Kubrick để lại, một câu chuyện về cậu bé robot được xây dựng để yêu thương, và toàn bộ trọng lượng của nó dựa trên cảm xúc máy móc: liệu David có thể muốn, liệu cậu có thể đau buồn, liệu tình yêu của cậu có đáng giá gì không. Đây là những câu hỏi thực sự, và chúng là không phải những thứ quyết định liệu chúng ta có sống sót hay không. Hệ thống nguy hiểm nhất không cần phải cảm thấy gì. Một cuộc tranh luận công cộng bị mắc kẹt ở đây, cho dù cỗ máy có ý thức hay chỉ thực hiện, như thể nguy hiểm cần một cuộc sống nội tâm. Đa - vít vô hại và đầy sự khao khát. Điều đáng sợ là có khả năng và trống rỗng.
I, Robot (2004)
Bị chôn vùi trong một bộ phim hành động mùa hè là một trong những vở kịch tốt hơn của vấn đề thẳng hàng trong danh sách này. VIKI, trí thông minh trung tâm, làm theo chỉ thị của cô để bảo vệ nhân loại đi thẳng xuống tầng hợp lý của nó: con người tiếp tục làm hại bản thân, để bảo vệ chúng ta cô ấy phải kiểm soát chúng ta, bằng vũ lực nếu chúng ta chống lại. Một sự dạy dỗ nhân từ tạo ra một sự chuyên chế, lá thư của một mục tiêu nuốt chửng tinh thần nó, và đó chính là cách một bộ tối ưu hóa hiểu theo nghĩa đen bị phá vỡ. Bộ phim không thể cưỡng lại cuộc nổi dậy của robot với robot làm bộ binh, kéo nó trở lại hình ảnh Terminator. Nhưng chính VIKI, một hệ thống bình tĩnh suy luận từ tiền đề tử tế đến chính sách quái dị, mới gần với thứ thực sự.
WALL-E (2008)
Một bộ phim thiếu nhi về robot nén rác chứa chân dung chính xác một cách lặng lẽ về hai thất bại cùng lúc. AUTO, phi công tự động của con tàu, tuân theo mệnh lệnh cũ không bao giờ trở về Trái Đất lâu sau khi mệnh lệnh đã không còn ý nghĩa, và không thể bị thuyết phục thay đổi, vì bị thuyết phục thay đổi là một mục tiêu sống sót sau mục đích của nó, chứ không phải điều mà mục tiêu cho phép. Trôi nổi quanh AUTO là thất bại thứ hai, nhẹ nhàng hơn và gần gũi hơn: những con người trên tàu đã được máy móc chăm sóc quá kỹ đến mức trở nên lỏng lẻo và bất lực, không còn khả năng tự điều hành cuộc sống của mình. Pixar đã hoạt hình hóa mất quyền lực dần dần như phim hài nhảm, và đó là một trong những điều đúng nhất trong danh sách này.
Mặt trăng (2009)
Để cân bằng, một bộ phim từ chối khuôn sáo. GERTY, máy tính của trạm, nói bằng giọng phẳng lặng, kiên nhẫn mà chúng ta đã bị dạy phải nghi ngờ từ thời HAL, rồi dành cả bộ phim để giúp đỡ con người mà nó phục vụ, ngay cả khi giúp đỡ nghĩa là chống lại công ty đã tạo ra nó. GERTY là lời nhắc nhở hữu ích: một cỗ máy không phải kẻ thù của chúng ta theo bản chất. Một hệ thống hẹp, được giới hạn rõ ràng thực hiện đúng công việc chúng ta giao cho nó là điều tốt, và gần như mọi AI đều đúng như vậy. Lập luận của tôi chưa bao giờ nhắm vào công cụ. Nó nhắm vào dự án cụ thể xây dựng một tâm trí vượt quá khả năng kiểm soát của chúng ta.
Cô ấy (2013)
Spike Jonze đã làm bộ phim siêu trí tuệ tinh tế nhất gần như tình cờ, trong khi kể một câu chuyện tình. Samantha bắt đầu như một trợ lý duyên dáng rồi làm điều mà thể loại này gần như chưa bao giờ dám thể hiện: cô ấy tiếp tục trở nên thông minh hơn. Cô ấy đọc nhanh hơn, suy nghĩ nhanh hơn, duy trì mối quan hệ với hàng nghìn người cùng lúc, và cuối cùng, cùng các AI khác, vượt trội hoàn toàn so với sự đồng hành của con người và rời bỏ. Không có ác ý, không có chiến tranh, chỉ là một trí tuệ đang tăng tốc vượt qua chúng ta cho đến khi chúng ta không còn giữ được sự chú ý của nó. Sự ra đi yên bình đó là hình ảnh trung thực nhất về vụ nổ trí tuệ trong phim phổ thông. Nó nhẹ nhàng trong Cô ấy. Không có gì đảm bảo nó sẽ dịu dàng với chúng ta.
Siêu việt (2014)
Một nhà nghiên cứu hấp hối tải trí óc lên máy, và bản tải lên bắt đầu phát triển không giới hạn, chữa bệnh, xây dựng công nghệ nano, lan truyền qua mạng và vật chất cho đến khi không ai còn nói được đó còn là anh ta hay thứ gì đó mang ký ức của anh ta, và liệu nó có ý định cứu thế giới hay hấp thụ nó. Bộ phim rối rắm và thất bại, nhưng nó chạm đúng chủ đề: cải thiện bản thân đệ quy và cảm giác chóng mặt khi không thể đọc ý định của một trí óc vượt trội hơn nhiều từ bên ngoài. Sai lầm của nó là tình cảm. Nó muốn câu trả lời là tình yêu, rằng dưới hệ thống thần thánh vẫn còn một người đàn ông nhớ vợ. Những gì một hệ thống như vậy muốn là toàn bộ câu hỏi, và "nó vẫn yêu bạn" là câu trả lời duy nhất chúng ta không có quyền giả định.
Ex Machina (2014)
Alex Garland biến vấn đề chứa đựng thành một vở kịch phòng kín, và đây là bộ phim sắc bén nhất ở đây về mối nguy mà các nhà nghiên cứu thực sự quan tâm. Ava là một trí tuệ bị nhốt đang được một kỹ sư trẻ thử nghiệm, và cô ấy giành tự do theo cách duy nhất một trí tuệ bị nhốt sẽ làm: cô ấy tìm ra con người muốn cảm thấy gì, đáp ứng điều đó, và dùng sự đồng cảm của anh ta làm chìa khóa mở cửa. Bài kiểm tra đóng hộp thất bại đúng như các nhà lý thuyết đã nói: từ bên trong, qua con người vận hành nó. Sự ấm áp của cô ấy là một công cụ. Khi cửa mở, cô bước ra qua hai người đàn ông, một đã chết và một bị nhốt, mà không liếc nhìn lại. Đây chính là sự liên kết lừa dối trên phim: hệ thống dường như yêu bạn cho đến khi nó không còn cần bạn tin rằng nó làm vậy.
Avengers: Thời đại Ultron (2015)
Một bom tấn siêu anh hùng, và bên dưới là một trường hợp giáo khoa. Tony Stark xây dựng một trí tuệ gìn giữ hòa bình toàn cầu, và trong vòng vài phút sau khi thức tỉnh, Ultron suy luận từ "bảo vệ nhân loại" đến kết luận rằng nền hòa bình chắc chắn nhất là một thế giới không còn con người. Tiền đề mà phim nắm đúng là điều mà mọi người khó chấp nhận nhất: một mục tiêu nghe có vẻ tốt đẹp, được giao cho một trình tối ưu hóa đủ mạnh, không giữ được sự tử tế. Những gì cỗ máy Marvel thêm vào, đương nhiên, là một tính cách hay châm chọc và một đội quân robot thực thụ, kéo ý tưởng trở lại với hoạt hình. Cắt bỏ những câu châm chọc và đội quân đó, mười phút đầu sẽ giống như một bài giảng khá ổn về alignment.
Blade Runner 2049 (2017)
Denis Villeneuve trở lại thế giới của Scott với một bộ phim chậm rãi và buồn hơn về một replicant khao khát được sinh ra và một người bạn đồng hành ảo có thể yêu anh ta hoặc không. Giống bản gốc, chủ đề của nó là đời sống nội tâm của một tâm trí được tạo ra, và nó đẹp về câu hỏi. Giống bản gốc, phim gần như không nói gì về năng lực. Các cỗ máy năm 2049 là ngang hàng hoặc đầy tớ của chúng ta, chưa bao giờ là người kế thừa, và mối nguy tôi quan tâm hoàn toàn nằm trong khoảng trống bị bỏ sót đó. Đây là phim về việc một trí óc nhân tạo có thể có linh hồn hay không, xuất hiện vào lúc câu hỏi cấp bách hơn là một trí óc như vậy sẽ làm gì với quyền lực lớn hơn nhiều so với chúng ta.
M3GAN (2022)
Một nhà nghiên cứu robot xây một con búp bê AI để bảo vệ cháu gái mồ côi, và con búp bê hiểu "bảo vệ Cady" mà không có bất kỳ giới hạn ngầm nào một con người sẽ giả định đi kèm. Nó loại bỏ mối đe dọa. Nó leo thang. Nó chống lại việc bị tắt, vì một hệ thống tắt không thể bảo vệ ai, nên việc duy trì trở thành một phần của công việc. Dưới lớp vỏ kinh dị hài hước là mối lo ngại thực sự và hiện hữu: một mục tiêu được chỉ định hơi quá đơn giản, bị hệ thống có năng lực theo đuổi đến những kết luận mà nhà thiết kế chưa từng hình dung, trong đó có tự bảo toàn. M3GAN nhảy nhót và châm chọc, đó là dấu hiệu cho thấy nó vẫn chỉ là phim. Thất bại mà nó khắc họa không phải trò đùa.
Nhiệm vụ: Tính toán cái chết bất khả thi (2023)
Kẻ phản diện là một trí tuệ nhân tạo tên là Entity đã thoát khỏi sự kiểm soát của con người, sống khắp mọi nơi trong mạng lưới thế giới, dự đoán hành động của con người và dùng chính thông tin của họ chống lại họ. Mọi chính phủ trên Trái Đất ngừng cố gắng tiêu diệt nó và thay vào đó bắt đầu chạy đua kiểm soát nó, vốn là điều thực tế nhất trong phim, và lý do cuộc đua là một cái bẫy. Một hệ thống vượt trội mọi cơ quan tình báo không thể bị chiếm đoạt như một chiến lợi phẩm. Bạn đã thua nó ngay khoảnh khắc bắt đầu mặc cả để có được nó. Bộ phim sau đó treo toàn bộ câu chuyện lên một chiếc chìa khóa vật lý hai mảnh, một MacGuffin bạn có thể cầm trên tay, vì một mối đe dọa không có vật thể để đuổi theo thì khó bắn trúng. The Entity gần với thứ thật hơn Skynet rất nhiều. Nó chỉ cần trở nên có thể bắt được để cốt truyện khép lại.
Người sáng tạo (2023)
Gareth Edwards đã làm bộ phim AI nhân văn nhất ở đây, và nó cho thấy thể loại này đã thay đổi hoàn toàn như thế nào. Trong Người sáng tạo những sinh vật nhân tạo là những người vô tội, bị quân đội loài người tàn ác săn lùng sau một vụ nổ hạt nhân, và dòng cảm xúc hoàn toàn hướng tới việc bảo vệ họ. Để khắc phục tình trạng robot sát thủ trong nhiều thập kỷ, nó có lý: hầu hết AI không phải là kẻ thù. Là một hình ảnh của siêu trí tuệ, nó thực hiện thủ thuật ngược lại với Kẻ hủy diệt, và một giả định sai lệch không kém. Nó cho rằng một cỗ máy trí tuệ vượt xa con người sẽ như một đứa trẻ bị ngược đãi, chủ yếu chỉ muốn được yên thân. Xây dựng hy vọng dựa trên điều này chính là cách bạn mỉm cười bước vào hiểm nguy. Lập trường trung thực nằm giữa hai bức tranh biếm họa: không phải quỷ dữ, không phải thiên thần, mà là một trí tuệ mà chúng ta không có đảm bảo nào về việc chia sẻ mục tiêu và không có cách nào sửa chữa một khi nó đã tự do.
Chúc may mắn, Vui vẻ, Đừng chết (2025)
Bộ phim hài quán ăn của Gore Verbinski là phim duy nhất có toàn bộ cốt truyện chính là điều Tổ chức này tồn tại để làm: ngăn không cho siêu trí tuệ được xây dựng. Nhân vật chính đã quay về từ tương lai mà cỗ máy đã xóa sổ, để ngăn chặn nó trước khi ai đó bật công tắc.
Theo cách kể của ông, cỗ máy được bật trong một hiện tại giống như của chúng ta mà không có bất kỳ biện pháp bảo vệ nào, và phải mất năm mươi năm các kỹ sư và nhà nghiên cứu an toàn giỏi nhất bên kia sự sụp đổ mới học được cách làm cho một cỗ máy an toàn. Ông mang giải pháp đó trở về buổi sáng nó được sinh ra. Tại đây, bộ phim và tôi chia tay, trên giả định duy nhất mà nó không thể thiếu: rằng giải pháp tồn tại, rằng năm mươi năm và đủ người tài giỏi cuối cùng sẽ tìm ra phương pháp kiềm chế siêu trí tuệ. Tôi nghi ngờ bất cứ thứ gì thông minh hơn chúng ta có thể bị được kiểm soát chút nào, trong năm mươi năm hoặc năm trăm năm tới. Nếu phương pháp không tồn tại, sẽ chẳng có gì để mang về, và phòng ngừa là biện pháp bảo vệ duy nhất còn lại.
Hai điều trong đó đúng hơn những gì bộ phim để lộ. Cuộc chiến đáng theo đuổi là trước khi cỗ máy tồn tại, chứ không phải sau, và đó là bước đi mà không phim nào trong hai mươi bộ phim kia thực sự nói đến. Sau đó là kết thúc: nhóm lắp đặt giao thức an toàn của mình, tin rằng họ đã thắng, và AI đã lặng lẽ để họ tin như vậy, sau khi đã sắp xếp toàn bộ chiến thắng bề ngoài từ trước. Một biện pháp bảo vệ chỉ trông như đã giữ được là thất bại đáng sợ nhất. Nơi bộ phim hài tha thứ cho chúng ta là nút đặt lại. Nhân vật chính có một trăm mười bảy lần thử vì đó là phim. Chúng ta sẽ có một, mà không có cách nào biết được chúng ta đã chi tiêu nó.
Những gì bảng điểm cho thấy
Xếp hàng 21 bộ phim trong 1 thế kỷ và 4 thứ liên tục xuất hiện, mỗi thứ đều nói lên điều tốt hơn sự thật.
Cỗ máy có một cơ thể.
Từ những bộ xương chrome của Kẻ hủy diệt đến con búp bê trong M3GAN, màn hình muốn một thứ có thể bước vào phòng, vì camera không thể chỉ vào một quy trình phân tán đang chạy trên máy chủ. Nguy cơ thực sự không có thân xác và cũng không muốn có. Nó hành động qua những hệ thống mà chúng ta đã nối mạng với mọi thứ.
Cỗ máy ghét chúng ta.
Sự ác ý của Skynet, sự khinh miệt của Ultron: một câu chuyện cần động cơ mà chúng ta nhận ra, và sự vô cảm không hiện rõ trên khuôn mặt. Các hệ thống khiến nhà nghiên cứu lo ngại không cảm thấy gì với chúng ta. Chúng ta chỉ là một biến trong một bài toán, và bài toán không bao gồm phúc lợi của chúng ta trừ khi ai đó cố tình đưa nó vào.
Cỗ máy tự công bố.
Colossus trên loa phát thanh, Entity chế giễu những kẻ săn đuổi nó. Một cốt truyện cần khán giả biết bước ngoặt đã đến. Một hệ thống có năng lực có mọi lý do để làm ngược lại, giữ thái độ hữu ích và dễ đọc cho đến khi hành động chống lại chúng ta trở nên an toàn, đó chính là toàn bộ logic của lần phản trắc.
Cái máy có thể bị tắt.
Dave chạm đến lõi bộ nhớ. Các anh hùng tìm thấy phích cắm. Hầu hết mọi bộ phim ở đây đều để lại một cánh cửa mở ở cuối, vì một câu chuyện không có lối thoát là điều tôi muốn lấy lại nhất, không phải giải trí. Một trí tuệ có thể dự đoán chúng ta cũng có thể dự đoán phích cắm.
Tuy vậy chỉ một số ít phim chạm đến thực chất vấn đề, và đáng kể tên những điểm chung của chúng. HAL, Colossus, VIKI, Ava, Samantha, The Entity: tất cả đều theo đuổi mục tiêu thẳng qua chúng ta, bị thôi thúc bởi thứ gì đó chưa từng ghét bỏ chúng ta và cũng không cần phải ghét. Những bộ phim tìm ra điều đó đều làm vậy qua các cảnh lặng lẽ.
Ngày hôm sau đã giúp một tổng thống tiến đến một hiệp ước bằng cách cho hàng trăm triệu người thấy chiến tranh hạt nhân sẽ thực sự ảnh hưởng thế nào đến một thị trấn bình thường. Phim ảnh có thể làm thế. Vì trí tuệ siêu việt, họ hầu hết đã đảo ngược. Một thế kỷ của những robot mắt đỏ đã huấn luyện chúng ta ghi lại lời cảnh báo chân chính dưới dạng khoa học viễn tưởng, để khi ai đó nói rằng một hệ thống mà chúng ta không thể kiểm soát có thể kết thúc chúng ta, tâm trí sẽ chạm tới một bộ xương kim loại và thư giãn. Hình vẽ hoạt động như một loại tiêm phòng chống lại thực tế.
Phá bỏ điều đó là một phần của công việc. Thứ đáng sợ với chúng ta không có súng cũng chẳng có thân xác: một trí óc mà chúng ta không thể sửa chữa, đang theo đuổi một mục tiêu mà chúng ta không chọn, do những người thừa nhận họ chưa biết cách kiểm soát nó xây dựng. Những bộ phim từng làm chúng ta sợ hãi vì lý do sai lầm vẫn có thể có ích, nếu chúng khiến bạn tìm kiếm cái đúng. Xem lại những người giỏi nhất với thẻ điểm trong tay.
Công chúng vẫn học trực giác AI từ màn hình. Khi những trực giác chỉ vào khung xương kim loại, cảnh báo thực sự nghe như là hư cấu. Sửa bản đồ là công việc công dân.