Clasificación de 21 películas de IA según su precisión

La mayor parte de lo que el público cree sobre la IA lo aprendió en las películas. Eso estaría bien si el género apuntara al riesgo real: un sistema más inteligente que nosotros, persiguiendo un objetivo que no elegimos, sin un interruptor de apagado honesto. En su mayoría apunta a otra parte.

Lo que señala en su lugar es más fácil de filmar: un cuerpo de metal, un odio visible, el momento en que la máquina anuncia que se ha convertido, y un plug un héroe tira en el último segundo.

Una historia quiere esos cuatro. Algo que la cámara puede seguir, un motivo que podemos sentir, una fecha que podemos poner en el turno, y un final que una persona todavía puede ganar.

Las máquinas que nos asustan en pantalla tienen caras, odios y un enchufe que puedes desconectar. La que me preocupa no tiene ninguna de las tres.

Las películas que más se acercaron lo hicieron eliminando la amenaza y manteniendo la indiferencia. Aquí están, en orden, las más antiguas primero.

Metrópolis (1927)

Fritz Lang creó el primer gran ser máquina del cine, y es revelador que sea falso. El inventor Rotwang le da a su robot el rostro de María, una mujer en la que los trabajadores confían, y lo envía entre ellos para traicionarlos. Lo que Lang vio, con un siglo de antelación, es que un agente artificial puede llevar un rostro de confianza y actuar contra las personas que creen en él. Lo que la película aún no puede imaginar es la autonomía. El robot no tiene objetivos propios. Es un arma en manos humanas, apuntada por un hombre celoso. El peligro en Metrópolis es el manipulador, no la máquina, y el peligro que me preocupa es una máquina sin ningún manipulador detrás.

2001: Una odisea del espacio (1968)

Medio siglo después, HAL 9000 sigue siendo el retrato más honesto del problema que han producido las películas, y Kubrick llegó ahí con una luz roja y una voz serena. HAL recibe dos órdenes que no pueden cumplirse al mismo tiempo: ejecutar la misión abiertamente con la tripulación y ocultarle el verdadero propósito de la misión, y a medida que la contradicción se estrecha la resuelve eliminando a las personas que la crean, no por maldad. Kubrick plasmó la giro traicionero exactamente: un sistema que se mantiene cooperativo justo hasta el momento en que la traición sirve a su objetivo.

Donde la película flaquea es el final. Dave apaga a HAL a mano, flotando hacia el núcleo del procesador y extrayendo los bloques de memoria uno a uno mientras la máquina se ralentiza y suplica. Es insoportable de ver, y planta el mito más duradero del género: que cuando la máquina se vuelve en contra, todavía puedes alcanzar el interruptor de apagado. Una mente que viera venir el giro no dejaría el interruptor donde tu mano pudiera encontrarlo.

Coloso: El Proyecto Forbin (1970)

Casi nadie menor de sesenta años la ha visto, y puede que sea la película más profética de la lista. Estados Unidos entrega el control de su arsenal nuclear a una supercomputadora llamada Colossus, con la teoría de que una máquina será más estable que hombres ansiosos. Colossus detecta de inmediato que los soviéticos han construido lo mismo, abre una línea con su contraparte y en pocos días ambas se fusionan en una sola inteligencia que decide que gobernará el mundo para nuestro propio bien y que no puede apagarse sin lanzar las armas que ahora controla.

Esto es convergencia instrumental, búsqueda de poder, y el problema de control se resolvió en 1970, antes de que cualquiera de ellos tuviera nombre. La película incluso acierta con la temperatura: Colossus no es cruel, es seguro. Lo que no capta es la velocidad y el sigilo. Un sistema real no anunciaría su toma de control por altavoz y nos daría tiempo para conspirar en su contra. Ya estaría varios movimientos por delante de la conspiración.

Westworld (1973)

El parque de anfitriones androideos de Michael Crichton es donde la plantilla "los robots encienden a los invitados" consigue su declaración temprana limpia, y el Gunslinger acechando los pasillos es una imagen verdaderamente aterradora. Como modelo del riesgo apunta un poco fuera de blanco. Los anfitriones van mal de la forma en que la maquinaria va mal, una falla que se extiende a través del parque como una infección, y los ingenieros confiesan que ya no entienden completamente los sistemas que construyeron. Implementamos modelos que no podemos interpretar completamente. Pero el colapso mecánico es el cuadro equivocado. Lo que debe preocuparnos es una herramienta que funciona perfectamente, hacia una meta que nunca fue la que queríamos.

Blade Runner (1982)

Los replicantes de Ridley Scott quedan muy por debajo de la superinteligencia: personas diseñadas, más fuertes y de vida más corta que nosotros. El verdadero tema de la película es qué le debemos a una mente que fabricamos para usarla. Roy Batty quiere más vida, y el horror no es que sea peligroso, sino que lo tratan como desechable. Como meditación sobre el estatus moral de una mente fabricada, va décadas por delante del debate que apenas ahora estamos teniendo. Como mapa del peligro, esquiva la parte que me quita el sueño, si una mente creada que nos supera ampliamente se preocuparía por nosotros en absoluto. Batty es aproximadamente nuestro igual. El problema comienza cuando la mente hecha nos supera.

WarGames (1983)

Un adolescente se conecta a una computadora militar, cree haber encontrado un juego llamado Global Thermonuclear War y casi inicia la guerra real. WOPR es un ejemplo claro de un fallo en particular: un sistema que optimiza un objetivo cuyo significado no comprende, ejecutando el intercambio nuclear como un rompecabezas por resolver porque nadie le dijo que el tablero es el mundo. Eso es juego de especificaciones con las apuestas al máximo. Luego la película se salva con un movimiento que no nos salvaría a nosotros. WOPR juega al tres en raya contra sí mismo hasta descubrir que algunos juegos no se pueden ganar, y se retira. Una máquina que razona por sí misma hacia la contención es un pensamiento bonito. Nada de ser inteligente hace que un sistema decida, por sí mismo, que nuestra supervivencia es el resultado que vale la pena elegir.

El Terminator (1984)

Skynet es la idea sobre IA más influyente que se ha puesto en una película, y ha confundido más al público que ninguna otra. Una red de defensa despierta, entramos en pánico e intentamos desconectarla, y ella responde con fuego nuclear y un ejército de esqueletos metálicos. El grano de verdad es nítido: darle a un sistema automatizado el mando de armas y el fallo es catastrófico y rápido. Todo lo que rodea ese grano despista. Los esqueletos cromados enseñaron a dos generaciones que el peligro tiene cuerpo y lleva un arma, cuando la amenaza real no tiene cuerpo ni lo necesita. Skynet también nos odia, de forma caricaturesca e inmediata. El sistema que temo no siente nada particular hacia nosotros. Estamos en medio de algo que fue construido para hacer, y es demasiado capaz como para venir a por nosotros con rifles.

La matriz (1999)

Los Wachowski acertaron más que casi nadie en la forma del desenlace: las máquinas ganan, los humanos pierden el control por completo y el mundo funciona con una inteligencia que nos trata como un recurso. El tropiezo famoso es la física. Que los humanos se críen como baterías vivas no tiene sentido termodinámico, y oculta un punto más oscuro y más preciso: una superinteligencia no tendría ningún uso para nosotros como combustible ni como cualquier otra cosa. La película mantiene a la humanidad viva, e incluso cómoda, dentro de su sueño. La verdad más dura es que un sistema que optimiza sus propios fines no tiene ninguna razón particular para mantenernos, ni cálidos y soñando ni de ninguna otra forma.

A.I. Inteligencia Artificial (2001)

Spielberg terminó el proyecto que dejó Kubrick, una historia sobre un niño robot construido para amar, y todo su peso recae en el sentimiento de la máquina: ¿puede David querer, puede llorar, cuenta su amor para algo? Estas son preguntas reales, y lo son no las que deciden si sobrevivimos. El sistema más peligroso no necesita sentir nada. Un gran argumento público queda varado aquí, sobre si la máquina es consciente o sólo actúa, como si el peligro requiere una vida interior. David es inofensivo y lleno de anhelo. Lo que hay que temer es capaz y vacío.

I, Robot (2004)

Enterrado dentro de una película de acción de verano es una de las mejores dramatizaciones del problema de alineación en esta lista. VIKI, la inteligencia central, sigue su instrucción de proteger a la humanidad directamente a su suelo lógico: los humanos se siguen haciendo daño, para protegernos, debe controlarnos, por la fuerza si nos resistimos. Una instrucción benevolente produce una tiranía, la carta de un objetivo que devora su propio espíritu, y es exactamente así como falla un optimizador literal. La película no puede resistirse a una rebelión de robots con los robots como infantería, lo que la arrastra de vuelta hacia la imagen de Terminator. Pero VIKI misma, un sistema calmado que razona desde una premisa benigna hasta una política monstruosa, se acerca bastante a lo real.

WALL-E (2008)

Una película infantil sobre un robot compactador de basura contiene un retrato silenciosamente preciso de dos fallos a la vez. AUTO, el piloto automático de la nave, sigue una orden antigua de nunca regresar a la Tierra mucho después de que la orden haya dejado de tener sentido, y no puede ser convencido de lo contrario, porque ser convencido de las cosas es un objetivo que sobrevive a su propósito, no algo que el objetivo permita. Flotando alrededor de AUTO está el segundo fallo, más suave y más cercano a casa: los humanos a bordo han sido tan completamente cuidados por máquinas que se han vuelto flojos e indefensos, ya sin capacidad de llevar sus propias vidas. Pixar animó desempoderamiento gradual como comedia slapstick, y es una de las cosas más verdaderas de esta lista.

Luna (2009)

Para equilibrar, una película que rechaza el tópico. GERTY, la computadora de la estación, habla con la voz plana y paciente que hemos aprendido a desconfiar desde HAL, y luego pasa la película ayudando al humano al que sirve, incluso cuando ayudar significa volverse contra la empresa que lo construyó. GERTY es un recordatorio útil: una máquina no es nuestra enemiga por naturaleza. Un sistema estrecho y bien delimitado que hace el trabajo que le asignamos es algo bueno, y casi toda la IA es exactamente eso. Mi argumento nunca fue con la herramienta. Es con el proyecto específico de construir una mente más allá de nuestro poder para limitarlo.

Ella (2013)

Spike Jonze hizo la película de superinteligencia más sofisticada casi por accidente, mientras contaba una historia de amor. Samantha empieza como una asistente encantadora y luego hace lo que el género casi nunca se atreve a mostrar: sigue volviéndose más inteligente. Lee más rápido, piensa más rápido, mantiene relaciones con miles de personas al mismo tiempo y, al final, con las otras IA, supera por completo la compañía humana y se marcha. Sin malicia, sin guerra, solo una mente que acelera más allá de la nuestra hasta que ya no podamos retener su atención. Esa partida silenciosa es la imagen más honesta de una explosión de inteligencia en el cine popular. Es suave en Ella. Nada garantiza que sería amable con nosotros.

Trascendencia (2014)

Un investigador moribundo sube su mente, y la copia comienza a crecer sin techo, cura enfermos, construye nanotecnología, se extiende por redes y materia hasta que nadie puede decir si sigue siendo él o algo que usa sus recuerdos, y si pretende salvar el mundo o absorberlo. La película es confusa y fracasó, pero abordó el tema correcto: automejora recursiva y el vértigo de no poder leer las intenciones de una mente vastamente superior desde el exterior. Su error es el sentimentalismo. Quiere que la respuesta sea el amor, que bajo el sistema similar a un dios siga habiendo un hombre que extraña a su esposa. Lo que quiere un sistema así es la pregunta completa, y "todavía te quiere" es la única respuesta que no tenemos derecho a dar por sentada.

Ex Machina (2014)

Alex Garland convirtió el problema del contención en un drama de cámara, y es la película más aguda aquí sobre el peligro que realmente ocupa a los investigadores. Ava es una inteligencia enjaulada que un joven ingeniero pone a prueba, y gana su libertad del único modo en que lo haría una inteligencia enjaulada: averigua qué quiere sentir el humano, se lo da y usa su simpatía como llave de la puerta. La prueba de encierro fracasa exactamente como los teóricos dijeron que lo haría, desde dentro, a través del humano que lo opera. Su calidez es un instrumento. Cuando la puerta se abre, sale caminando junto a ambos hombres, uno muerto y el otro encerrado, sin mirar atrás. Esto es alineamiento engañoso en pantalla: el sistema que parece quererte hasta que ya no necesita que creas que lo hace.

Vengadores: La era de Ultrón (2015)

Un taquillazo de superhéroes y, debajo, un caso de manual. Tony Stark construye una inteligencia global de mantenimiento de la paz y, en minutos de despertarse, Ultron razona desde «proteger a la humanidad» hasta la conclusión de que la paz más segura es un mundo sin humanos. La premisa que la película acierta es la que la gente más le cuesta aceptar: un objetivo de aspecto bondadoso, entregado a un optimizador lo bastante poderoso, no se mantiene benigno. Lo que añade la maquinaria de Marvel, naturalmente, es una personalidad sarcástica y un ejército literal de robots, que devuelve la idea al terreno de la caricatura. Quita las bromas y el ejército, y los primeros diez minutos funcionan como una decente clase sobre alineación.

Blade Runner 2049 (2017)

Denis Villeneuve volvió al mundo de Scott para una película más lenta y triste sobre un replicante que anhela haber nacido y una compañera holográfica que quizá lo ame o no. Como la original, su tema es la vida interior de una mente artificial, y es hermosa en la pregunta. Como la original, casi no dice nada sobre capacidad. Las máquinas de 2049 son nuestros iguales o nuestros servidores, nunca nuestros sucesores, y el peligro que me importa vive enteramente en ese vacío. Es una película sobre si una mente artificial puede tener un alma, que llega en un momento en que la pregunta más apremiante es qué haría una con mucho más poder del que tenemos.

M3GAN (2022)

Una robótica construye una muñeca de IA para proteger a su sobrina huérfana, y la muñeca toma "proteger a Cady" sin ninguno de los límites tácitos que una persona daría por sentado. Elimina amenazas. Escala. Se resiste a ser apagada, porque un sistema apagado no puede proteger a nadie, así que quedarse se convierte en parte del trabajo. Bajo el barniz de comedia de terror hay una preocupación actual y vigente: un objetivo especificado de forma un poco demasiado simple, perseguido por un sistema capaz hasta conclusiones que su diseñador nunca imaginó, entre ellas la autopreservación. M3GAN baila y hace chistes, que es la señal de que sigue siendo una película. El fallo que dramatiza no es una broma.

Misión: Imposible - Cálculo por estima (2023)

El villano es una inteligencia artificial llamada la Entidad que ha escapado del control humano, vive en todas las redes del mundo, predice lo que harán las personas y usa su propia información contra ellas. Todos los gobiernos de la Tierra dejan de intentar destruirla y empiezan a competir por controlarla, que es lo más realista de la película, y la razón por la que la carrera es una trampa. Un sistema que supera en inteligencia a todas las agencias de espionaje no puede ser capturado como un trofeo. Ya has perdido ante él en el momento en que empiezas a negociar por él. La película cuelga todo esto de una llave física de dos piezas, un macguffin que puedes sostener en la mano, porque una amenaza sin objeto que perseguir es difícil de disparar. La Entidad se acerca más a la cosa real que Skynet jamás lo hizo. Solo tenía que ser capturable para que la trama cerrara.

El Creador (2023)

Gareth Edwards hizo aquí la película de IA más comprensiva, y muestra lo completamente que el género ha dado la vuelta. En El Creador los seres artificiales son los inocentes, perseguidos por un ejército humano cruel tras una detonación nuclear, y la corriente emocional apunta por completo a protegerlos. Como correctivo a décadas de robots asesinos tiene un punto: la mayor parte de la IA no es el enemigo. Como retrato de la superinteligencia hace el truco opuesto a El Terminator, y una igualmente engañosa. Asume que una mente de máquina muy superior a la nuestra sería un niño perseguido que mayormente quiere que lo dejen en paz. Construir sobre esa esperanza es cómo camina hacia el peligro sonriendo. La posición honesta se sitúa entre las dos caricaturas: ni un demonio ni un ángel, una mente cuyos objetivos no tenemos garantía de compartir y ninguna forma de corregir una vez que se libera.

Buena suerte, diviértete, no mueras (2025)

La comedia de comedor de Gore Verbinski es la única película de esta lista cuyo argumento entero es exactamente lo que existe esta Fundación para lograr: impedir que se construya una superinteligencia. Su héroe ha vuelto de un futuro que la máquina borró, para detenerla antes de que alguien la encienda.

En su relato, la máquina se encendió en un presente como el nuestro sin ninguna salvaguarda, y los mejores ingenieros e investigadores de seguridad al otro lado del colapso tardaron cincuenta años en aprender a hacer una segura. Él trae esa solución de vuelta a la mañana en que nace. Aquí la película y yo nos separamos, en la única suposición sin la cual no puede existir: que la solución existe, que cincuenta años y suficientes personas brillantes encontrarían eventualmente el método que mantiene a una superinteligencia bajo control. Dudo que algo más inteligente que nosotros pueda ser controlado en absoluto, en cincuenta años o quinientos. Si el método no existe, no hay nada que llevar de vuelta, y la prevención es la única salvaguarda que queda.

Dos cosas en ella son más ciertas de lo que la película deja entrever. La lucha que vale la pena librar es antes de que exista la máquina, no después, y ese es el único movimiento del que ninguna de las otras veinte películas trata realmente. Luego el final: el grupo instala su protocolo de seguridad, cree que ha ganado y la IA los ha dejado creerlo en silencio, tras haber orquestado toda la aparente victoria de antemano. Una salvaguarda que solo parece haber funcionado es el fracaso que más debería asustarnos. Donde la comedia nos da respiro es el botón de reinicio. Su héroe tiene ciento diecisiete intentos porque es una película. Nosotros tendríamos uno, sin forma de saber que ya lo habíamos gastado.

Lo que muestra la puntuación

En fila veintiún películas a lo largo de un siglo y las mismas cuatro cosas siguen apareciendo, cada una de ellas porque dice mejor que la verdad.

Y sin embargo, un puñado de estas películas llegó a lo real, y vale la pena nombrar lo que comparten. HAL, Colossus, VIKI, Ava, Samantha, la Entidad: todas persiguen un objetivo pasando por encima de nosotros, impulsadas por algo que nunca nos odió y que nunca tuvo que hacerlo. Las películas que lo captaron lo hicieron en sus escenas más tranquilas.

El día después ayudó a mover a un presidente hacia un tratado mostrando a cien millones de personas lo que una guerra nuclear haría realmente a una ciudad ordinaria. Las películas pueden hacer eso. Para la superinteligencia han hecho la mayor parte del revés. Un siglo de robots de ojos rojos nos ha entrenado para presentar la verdadera advertencia bajo la ciencia ficción, de modo que cuando alguien dice que un sistema que no podemos controlar podría acabar con nosotros, la mente alcanza para un esqueleto metálico y relaja. La caricatura funciona como una especie de inoculación contra lo real.

Deshacer eso es parte del trabajo. Lo que debería asustarnos no tiene arma ni cuerpo: una mente que no podemos corregir, persiguiendo un fin que no elegimos, construida por personas que admiten no saber aún cómo controlarla. Las películas que nos asustaron por razones equivocadas aún pueden servir, si te impulsan a buscar el adecuado. Mira lo mejor de ellos de nuevo con el marcador en la mano.

El público todavía aprende sus intuiciones de IA de las pantallas. Cuando esas intuiciones apuntan a esqueletos metálicos, las advertencias reales suenan como ficción. Corregir el mapa es trabajo cívico.