Marc Andreessen publicó "El Manifiesto Techno-Optimista" en octubre de 2023. Bajo un título llamado El Enemigo presenta un conjunto de ideas que él quiere tratado como una enfermedad. El riesgo existencial está en la pila, y también el principio de precaución. El crecimiento está en la pila también. Una vez que los que se sientan juntos, cualquiera que quiera una parada dura en la superinteligencia puede describirse como alguien que quiere un país más pobre.

El lado aceleracionista ya había pesimista para el estado de ánimo. El crecimiento es el gemelo económico.

De dónde viene la palabra

El crecimiento, en su propia casa, es un argumento climático-economía. Los escritores en ese campo quieren que los países ricos corten el material y el rendimiento energético: menos extracción, menos wattage, una carga física más pequeña en el planeta. Puedes aceptar ese programa o rechazarlo. De cualquier manera, es una reclamación sobre acero, aceite y vatios. No es una afirmación sobre si construir una mente que supere la nuestra.

En el debate de AI la palabra fue despojada por partes. Después de 2022, como la seguridad dejó los laboratorios y golpeó las redes sociales, campo acelerado tomó e/acc como una placa. Necesitaban una palabra que significaba "estás en contra de la prosperidad". El crecimiento estaba sentado en la política climática, ya cargada, lista para apuntar a un objetivo diferente.

El manifiesto hizo que la diapositiva fuera barata. Puso el decrecimiento en la misma lista de enemigos como riesgo existencial. Después de eso no tienes que demostrar que una persona quiere menos energía. Sólo tienes que demostrar que se preocupan por superinteligencia. El resto del insulto llega libre.

¿Qué hace realmente la etiqueta?

Usado de esta manera, el crecimiento es un intercambio, no una descripción. Tomas un reclamo tecnológico (no construyas un sucesor ingobernable) y lo reemplazas con una ideología económica (hacer el pastel más pequeño). Entonces usted argumenta con la ideología, que es más fácil, porque casi nadie en una sala de tecnología estadounidense quiere defender la reducción del PIB.

Nuestra posición no dice menos fábricas o menos vatios. Sistemas estrechos que mantienen herramientas Aumento de los niveles de vida. Quiero más de eso. La línea es superinteligencia: un sistema construido para superarnos a través de dominios cuando todavía no podemos verificar que seguirá siendo una herramienta.

Llamar a ese decrecimiento de la línea es como la prohibición de la clonación humana de una guerra contra la obstetricia. La categoría es errónea a propósito.

La palabra cuelga un insulto económico en una reclamación de tecnología, por lo que la reclamación de tecnología nunca tiene que ser satisfecha.

Por qué impacta

Nadie quiere estar en contra del crecimiento. El crecimiento es cómo los niños viven mejor que sus padres. Es medicina y vivienda y vidas más largas. Enmarcar la elección como abundancia versus crecimiento y la habitación ya ha elegido una silla. El encuadre es la victoria.

También presta una verdadera lucha. La política climática realmente contiene un campo que argumenta por menos rendimiento. Los aceleracionistas apuntan a ese campamento, y luego deslizan el puntero hacia cualquier persona pidiendo una prohibición superinteligencia. La diapositiva es el truco. Dos argumentos comparten una sílaba y se tratan como uno.

La gente ya mantiene una lista mental de personas que estaban equivocadas sobre nuevas máquinas: el ferrocarril, la luz eléctrica. La etiqueta le invita a poner a la gente de seguridad superinteligencia en esa lista sin comprobar si esta máquina es un faro o un nuevo actor.

A quién va dirigida la palabra

Mira los objetivos. Geoffrey Hinton y Yoshua Bengio pasaron sus vidas construyendo una IA moderna. Cientos de científicos y líderes de laboratorio firmaron la declaración de 2023 poniendo el riesgo de extinción de AI junto a las pandemias y la guerra nuclear. No estoy discutiendo por un país más pequeño. Estoy discutiendo por un país que aún existe.

Las mismas bocas venderán superinteligencia como el camino a abundancia, entonces llame a un decrecimiento de la prohibición. Esas dos afirmaciones sólo funcionan juntas si nunca se pregunta qué un sistema no alineado realmente ofrece. Curas y vidas más largas son beneficios de un sistema que está tratando de producirlos. Un sucesor no gobernado no paga esa factura.

Un capitalista que quiere a los clientes del próximo año todavía tiene un país en el que vender. Esa es la condición que hace posible un mercado, no un programa de pobreza.

El indicio

Un movimiento seguro de que la prohibición significa que la pobreza mostrará el mecanismo. Que fábrica cierra. Que droga no se encuentra. No lo muestran, porque el mecanismo no está allí. Las herramientas estrechas siguen funcionando. Lo que rehusamos es lo que termina la composición.

Usted alcanza para el crecimiento cuando prefiere no decir, en voz alta, que su plan necesita una especie sucesor. Nombrar al oponente es más barato que defender el plan.

Cómo responderlo

Rechazar el intercambio. Pregunta qué parte de la posición reduce la economía. Mantener los modelos médicos y los materiales funcionan. Nombra la excepción: una mente sucesor. Si no pueden apuntar a una fábrica que la prohibición cierra, están hablando de una raza, no de crecimiento.

Entonces separa las dos palabras. El crecimiento, el programa climático, es una lucha por el rendimiento. Doomer es una pelea por el estado de ánimo. Tampoco es una respuesta a si podemos controlar un sistema más inteligente de lo que somos. Arrastre la charla de nuevo con eso.

Si quieren abundancia, necesitan una especie alrededor para recogerla. Nuestra tesis es un pastel que todavía pertenece a la gente que lo hornea, no uno más pequeño. La superinteligencia no puede ser revertida, así que no la construyes.