No. La preocupación se centra en los próximos avances en IA.

Una de las razones por las que estás leyendo este libro es que avances como ChatGPT han llevado la IA a los titulares. El mundo está empezando a debatir sobre el progreso de la IA y su impacto en la sociedad. Esto representa una oportunidad natural para hablar sobre una IA más inteligente que los humanos y por qué la situación actual no parece muy alentadora.

Nosotros, los autores, llevamos mucho tiempo trabajando en este campo. Los recientes avances en IA influyen en nuestras opiniones, pero nuestras preocupaciones no surgieron a raíz de ChatGPT, ni de los modelos de lenguaje a gran escala que lo precedieron. Llevamos décadas realizando investigación técnica para intentar garantizar que una IA más inteligente que los humanos opere de forma segura (Soares desde 2013 y Yudkowsky desde 2001). Sin embargo, recientemente hemos visto indicios de que el mundo podría estar listo para tener esta conversación. Y tenemos que empezarla ya; de lo contrario, el mundo podría perder su oportunidad de reaccionar.

El campo de la IA progresa y, con el tiempo (no sabemos cuándo), avanzará hasta el punto de crear una IA más inteligente que los humanos. Ese es el objetivo explícito de las principales empresas de IA:

Ahora estamos seguros de que sabemos cómo crear una IAG [inteligencia artificial general] tal y como la hemos entendido tradicionalmente. […] Estamos empezando a mirar más allá, hacia la superinteligencia en el pleno sentido de la palabra. Nos encantan nuestros productos actuales, pero estamos aquí por el futuro glorioso. Con la superinteligencia, podremos lograr todo lo demás.
— Sam Altman, director general de OpenAI

Creo que la [IA poderosa] podría llegar ya en 2026. […] Por IA poderosa, me refiero a un modelo de IA […] con las siguientes características: en términos de inteligencia pura, es más inteligente que un ganador del Premio Nobel en la mayoría de los campos más relevantes: biología, programación, matemáticas, ingeniería, escritura, etc. Esto significa que puede demostrar teoremas matemáticos sin resolver, escribir novelas extremadamente buenas, escribir códigos difíciles desde cero, etc.
— Dario Amodei, director general de Anthropic

En general, nos centramos en crear inteligencia general completa. Todas las oportunidades que he comentado hoy son consecuencia de ofrecer inteligencia general y hacerlo de manera eficiente.
— Mark Zuckerberg, director general de Meta (poco antes de que la empresa anunciara un proyecto de «superinteligencia» de 14 300 millones de dólares).

Creo que en los próximos cinco a diez años, habrá quizás una probabilidad del 50 % de que tengamos lo que definiríamos como IAG.
— Demis Hassabis, director general de Google DeepMind

Wes: Entonces, Demis, ¿estás tratando de provocar una explosión de inteligencia?
Demis: No, no una explosión descontrolada…
— Wes Roth (entrevistador) y Hassabis

Están invirtiendo su dinero en lo que predican. Microsoft, Amazon y Google han anunciado planes para invertir entre 75 000 y 100 000 millones de dólares en centros de datos para IA en 2025. La empresa emergente xAI compró la red social X.com con una valoración de 80 000 millones de dólares, aproximadamente el doble que la propia X, poco antes de recaudar 10 000 millones de dólares para financiar un enorme centro de datos y seguir desarrollando su IA, Grok. OpenAI ha anunciado el Proyecto Stargate, valorado en 500 000 millones de dólares, en colaboración con Microsoft y otras empresas.

El director general de Meta, Mark Zuckerberg, ha declarado que Meta espera gastar 65 000 millones de dólares en infraestructura de IA este año, y «cientos de miles de millones» en proyectos de IA en los próximos años. Meta ya ha invertido 14 300 millones de dólares en ScaleAI y ha contratado a su director general para dirigir los nuevos Meta Superintelligence Labs, fichando para ello a más de una docena de investigadores de primer nivel de laboratorios rivales con ofertas de hasta 200 millones de dólares por un solo investigador.

Nada de esto significa que la IA más inteligente que los humanos esté a la vuelta de la esquina. Pero sí significa que todas las grandes empresas están haciendo todo lo posible por crearla, y que las IA como ChatGPT son el resultado de este programa de investigación. Estas empresas no se han propuesto crear chatbots. Se han propuesto crear superinteligencias, y los chatbots son una parada en el camino.

Nuestra opinión, tras décadas de intentar comprender mejor esta cuestión y reflexionar seriamente sobre los avances futuros, es que no existe ninguna barrera fundamental que impida a los investigadores lograr un avance mañana y crear una IA más inteligente que los humanos.

No sabemos si ese umbral se alcanzará en el futuro cercano o si aún queda una década para ello, etc. La historia demuestra que es mucho más difícil predecir cuándo aparecerán las nuevas tecnologías que predecir que se desarrollarán. Pero creemos que la evidencia del peligro es mucho mayor de lo necesario para justificar una respuesta internacional contundente en la actualidad. Por supuesto, ese argumento se esboza en el libro.

Notes