A principios de los años setenta, los biólogos aprendieron a empalmar genes de un organismo en otro. El ADN recombinante abrió la medicina y la biología a la vez, y asustó a quienes lo inventaban. No podían descartar que un organismo modificado escapara de un laboratorio y causara un daño que nadie sabía cómo contener. Así que hicieron algo casi inaudito. Se detuvieron.

En 1974, investigadores destacados, incluidos futuros premios Nobel, pidieron públicamente una moratoria voluntaria sobre los experimentos de ADN recombinante más peligrosos. En febrero de 1975, alrededor de 140 científicos, junto con abogados y periodistas, se reunieron en el centro de conferencias de Asilomar en California para decidir los términos bajo los cuales el trabajo podría reanudarse de forma segura. Surgieron con un marco de medidas de contención adaptadas al riesgo, y la investigación se reinició bajo salvaguardas acordadas. Para los defensores de pausar la IA de frontera, este es el punto de referencia: un campo que reconoció su propio peligro y eligió la cautela sobre la velocidad.

Lo que Asilomar realmente acertó

El logro es real y vale la pena mencionarlo claramente.

Los científicos actuaron antes de un desastre en lugar de después de uno, lo que es lo más raro y valioso de toda la historia de la seguridad tecnológica. Aceptaron moderación en su propio trabajo, incluyendo investigación que prometía fama y progreso, porque el riesgo lo justificó. Y construyeron reglas prácticas acordes con el nivel de peligro, en lugar de ignorar el peligro o prohibir el campo de manera directa. Es una prueba de que una comunidad de investigación puede mirar su propia frontera, juzgarlo demasiado peligroso para apresurarse y detenerse. Ese precedente es una refutación directa de la afirmación de que pausar una poderosa tecnología es ingenua o imposible.

¿Por qué es un modelo más difícil de lo que parece?

La honestidad sobre el precedente significa nombrar por qué la IA es un caso más difícil, porque las diferencias son exactamente las partes que hicieron que Asilomar funcionara.

  • Era una comunidad pequeña y unificada. Unas pocas docenas de laboratorios, una cultura científica, personas que se conocían. La IA de frontera es un concurso global entre corporaciones y estados por billones, sin una mesa compartida.
  • Las apuestas comerciales eran modestas en 1975. La industria biotecnológica apenas existía aún. La IA llega con las mayores empresas del mundo y los establecimientos de seguridad nacional ya comprometidos, lo que es el dinámica de carrera Asilomar nunca enfrentó.
  • Reiniciar era el objetivo. Asilomar se diseñó para encontrar términos seguros para continuar, no para detenerse indefinidamente. Su modelo de contención suponía que se podía encerrar el peligro en un laboratorio físico. Una IA capaz no es obviamente contenible de esa manera.

Hay también un epílogo aleccionador. El consenso de Asilomar se mantuvo en parte porque fue un momento estrecho con incentivos alineados, y aun así dependió de una buena voluntad voluntaria que un campo más comercial y competitivo tensionaría. Lo que funcionó entre 140 científicos colegiados no se escala directamente a una industria global fracturada bajo una presión intensa por ganar.

Asilomar demuestra que una pausa es posible. También muestra las condiciones que necesita una pausa y cuántas de ellas tiene actualmente la IA.

La buena voluntad voluntaria no es suficiente para AI

Las dos mitades de la materia Asilomar. Rechaza el fatalismo que dice que nada puede hacerse, que una tecnología poderosa no puede ser ralentizada. Los científicos lo hicieron deliberadamente, y el cielo no cayó. Pero también muestra que el mecanismo informal, voluntario y colegial que trabajó en 1975 no es suficiente para la IA, porque la IA carece de la pequeña comunidad, los bajos intereses y el peligro contenible que permite la buena voluntad suficiente. La conclusión correcta es que AI necesita lo que Asilomar podría lograr, la verdadera moderación ante el peligro, entregado a través de la maquinaria internacional vinculante, verificable, que requiere una raza global trillion-dollar, no que AI necesita su propio Asilomar.