INTERACTIVE TOOL

P(doom) Calculator

"P(doom)" es la probabilidad de que la IA avanzada conduzca a una catástrofe para la humanidad. No es un número. Es producto de varios juicios inciertos. Mueva los controles deslizantes a continuación para establecer su propia visión de cada uno, y la calculadora los combinará en una estimación única que podrá comparar con investigadores líderes.

1. AGI is actually built this century 75%

Probabilidad de que los sistemas de IA alcancen una inteligencia general estratégicamente capaz y de nivel humano antes de 2100.

2. Alignment isn't reliably solved in time 50%

Dado AGI, la probabilidad de que no logremos alinearlo de manera confiable con las intenciones humanas antes de que se implemente a escala.

3. A misaligned system gets real power 60%

Dada la alineación no resuelta, la probabilidad de que un sistema desalineado se implemente en condiciones de alto riesgo que otorgan poder.

4. Provoca una catástrofe, no un fracaso contenido 50%

Dado un poderoso sistema desalineado, la probabilidad de que el fracaso sea a escala de civilización en lugar de ser detectada y contenida.

5. Humanity cannot recover 70%

Ante una catástrofe, la probabilidad de que sea permanente, extinción o pérdida irreversible del control humano sobre el futuro.

How this is calculated

La estimación es una cadena multiplicativa simple, cada factor es la probabilidad condicional del siguiente paso, por lo que el riesgo general es su producto:

P(doom) = P(AGI) × P(unaligned) × P(gets power) × P(catastrophe) × P(no recovery)

Esto refleja la estructura del informe de 2021 de Joe Carlsmith. Is Power-Seeking AI an Existential Risk?, que descompuso la pregunta en una cadena de premisas y multiplicó estimaciones puntuales. El modelo es deliberadamente transparente más que preciso: su valor reside en hacer explícitos which judgment is driving your number.

Nota: un producto estricto supone que los pasos son independientes, lo cual es una simplificación; en realidad, estos juicios se correlacionan. Trate el resultado como una ayuda para el razonamiento, no como un pronóstico.

Where researchers land

AI optimists (e.g. Yann LeCun)
Public statements, various<1%
Median ML researcher
AI Impacts survey of 2,700+ researchers, 2023~5%
Joe Carlsmith
Informe Open Philanthropy, 2021 (posteriormente revisado)~10%
Paul Christiano
Alignment researcher, public estimates~20%
Geoffrey Hinton
Nobel laureate; interviews, 2023-2025 (10-50%)~50%
Eliezer Yudkowsky
MIRI; If Anyone Builds It, Everyone Dies>95%

Understand the number

Cualquiera que sea su P(doom), los argumentos a favor de la acción son válidos.

Incluso una baja probabilidad de un resultado irreversible a escala de civilización conlleva un costo esperado enorme. Ese es todo el argumento para tratar la seguridad de la IA como una prioridad seria ahora. Obtenga nuestras sesiones informativas sobre el riesgo y lo que se puede hacer al respecto.

More interactive tools

All tools →