How fast is AI scaling?
El mayor impulsor del progreso de la IA ha sido la escala bruta, la cantidad de computación utilizada para entrenar cada nuevo modelo. Trazado a escala logarítmica, ese crecimiento es asombroso e implacable. Explore los modelos que marcan la curva y observe qué tan rápido se mueve la frontera.
La computación no lo es todo (los algoritmos y los datos también importan), pero ha sido el predictor más confiable de nuevas capacidades. Cuando la entrada a un sistema crece en un factor de cien millones en poco más de una década, y nadie entiende completamente lo que desbloqueará el próximo cien millones, “descubriremos la seguridad a medida que avanzamos” se convierte en una gran apuesta.
La tendencia también replantea la carrera: modelos eficientes como el DeepSeek-V3 de China alcanzaron un rendimiento adyacente a la frontera con una fracción de la computación reportada, un recordatorio de que la capacidad está mejorando. cheaper, not just bigger.
Las cifras de computación de entrenamiento son estimaciones, principalmente de Epoch AIBase de datos de modelos notables, expresada en operaciones de punto flotante (FLOP). Los laboratorios rara vez revelan números exactos, por lo que los valores de frontera recientes son aproximados y se muestran a modo ilustrativo; el hallazgo más sólido es la tendencia, no un solo punto.
El tiempo de duplicación mostrado se calcula a partir de los modelos trazados, por lo que refleja esta muestra seleccionada en lugar de todo el campo.
La capacidad está superando nuestra capacidad de controlarla.
Cada duplicación de la computación compra capacidades que no diseñamos y que no podemos predecir completamente, mientras que nuestras herramientas para alinear y gobernar estos sistemas mejoran mucho más lentamente. Cerrar esa brecha es todo el proyecto. Obtenga nuestras sesiones informativas sobre el riesgo y lo que se puede hacer.