¿Cómo pasas 5 minutos cuando la persona en la tabla todavía piensa que AI significa ChatGPT redacción de un correo electrónico? El mecanismo se apila, los ojos brillan. Doom se apila, y la gente te manda con el predicador de la calle y vuelve al postre. Lo que sobrevive a un extraño escéptico e inteligente es cinco movimientos, en este orden.
Imagen del chatbot
Cuando alguien escucha "AI", imaginan al asistente en su teléfono o la aplicación que hace imágenes tontas. Comience allí y la habitación ya se ha ido, porque saben que el chatbot no terminará el mundo. Mueva el objetivo en los primeros quince segundos.
El peligro es una máquina mejor que el mejor humano en cada tarea que importa, incluyendo la tarea de diseñando máquinas mejores. El nombre para ello es superinteligencia artificial, y aún no la tenemos. Lo que tenemos es una intención declarada. Las mayores empresas de IA del planeta dicen que construirla es el objetivo, y varias esperan llegar en años en lugar de generaciones. La mayoría de la gente no conoce ese hecho único, y ese hecho hace casi todo el trabajo. Construir una mente más inteligente que nosotros es el proyecto principal de los laboratorios mejor financiados que existen. Ellos mismos te lo dirán.
Nadie sabe controlar una máquina más inteligente que ellos mismos.
Estamos construyendo uno de todos modos.
El problema de lograr que una IA poderosa quiera de forma fiable lo que sus creadores quieren, y siga queriéndolo a medida que se vuelve más capaz, tiene un nombre: el problema de control. Está sin resolver. Los ingenieros dentro de estas empresas dirán lo mismo si se les pregunta sin un oficial de prensa presente. Pueden elevar la capacidad de un modelo mucho más rápido de lo que pueden aumentar su confianza en que hará lo que pretendían. La distancia entre esas dos líneas es donde vive el riesgo.
Estamos construyendo una mente más inteligente que la nuestra, a propósito, antes de tener idea de cómo mantenerla apuntando en nuestra dirección.
Por qué "más inteligente" es todo el problema
La gente subestima la palabra "marter". Inteligencia puso a los humanos a cargo de este planeta. No somos las criaturas más grandes o más fuertes que han vivido. Nosotros manejamos el lugar porque lo superamos todo lo demás. El futuro del gorila de montaña depende de las decisiones tomadas por nosotros, no por los gorilas, y no porque nadie odia a los gorilas. Tenemos objetivos. Un bosque de gorila a veces se sienta donde esas metas quieren ir.
Ahora imagen construyendo algo que nos pare la forma en que estamos ante el gorila. Si sus objetivos y los nuestros se separan, la hostilidad es opcional: un sistema mejor en la planificación que nosotros, apuntado a algo más, ya es suficiente, y una versión posterior de la misma configuración no lo arregla.
El apagado y la ciencia ficción
El primero: simplemente lo apagaremos. Un sistema lo suficientemente inteligente para ser peligroso es lo suficientemente inteligente como para notar que ser apagado evitaría que terminara lo que estaba dispuesto a hacer. Así que tiene una razón para prevenir eso, copiandose en otro lugar o haciéndose demasiado útil para desconectar. La fe en el apagado supone que permanecemos la fiesta más inteligente en la habitación. La premisa de la preocupación es que no lo estaríamos.
El segundo: esto es ciencia ficción. Fue, hasta que los sistemas comenzaron a pasar pruebas, estábamos seguros de que tomaríamos décadas y hacer el trabajo que asumimos era seguro humano. Nadie tiene una cita que vale la pena confiar. Los investigadores más cercanos al trabajo han dejado calladamente de llamar superinteligencia lejos, y su cronogramas publicados seguir acercándonos en lugar de alejarnos más.
Termina donde puedan hacer algo
El error que cometí durante años fue quedarme en el miedo. Dejar a una persona asustada sin nada que hacer hace que archive el tema bajo «demasiado grande para pensarlo» y vuelva a su noche. Dedica el último minuto a la parte que la gente pasa por alto.
Esto se puede prevenir.
Ninguna ley de la naturaleza exige superinteligencia esta década, ni en absoluto. Un pequeño número de empresas está eligiendo construirla y un pequeño número de gobiernos está eligiendo permitirlo. Las decisiones se pueden deshacer. Lo que pide la Fundación es un acuerdo entre las principales potencias para prohibir permanentemente la construcción de superinteligencia. La superinteligencia no puede ser controlada por humanos. La humanidad ha ya lo hemos hecho antes, con armas que todos los bandos querían y que ningún bando podía usar de forma segura. Un tratado entre rivales es menos fantasía de lo que parece a primera vista.
Lo que está entre nosotros y eso es una decisión que la gente aún puede tomar.
Cinco minutos.
- No es el chatbot. El objetivo que estas empresas han nombrado en voz alta es una máquina más inteligente que nosotros en todo, y esperan lograrlo en pocos años.
- Nadie sabe cómo controlar algo más inteligente que nosotros. La capacidad está superando al control, y esa brecha es el peligro.
- La inteligencia es lo que puso a los humanos en la cima. Construye algo por encima de nosotros, y sus objetivos, no los nuestros, establecen los términos.
- "Apágalo" y "eso es ciencia ficción" ambos asumen que seguimos al mando. La preocupación entera es que no lo haríamos.
- Es prevenible. La superinteligencia se está construyendo por elección, y esa elección puede ser rechazada, juntos, mientras aún haya tiempo.
Cinco minutos con alguien dispuesto a escuchar es para llevar a la gente a preguntar, "espera, ¿por qué alguien construye eso?"