Porque la situación parece realmente grave y urgente.

Si se analiza un tema con suficiente atención, a veces se puede prever uno de los giros que dará la historia.

En 1933, el físico Leo Szilard fue el primero en darse cuenta de que las reacciones nucleares en cadena eran posibles.^* Esto le permitió predecir uno de los giros de la historia antes que nadie.

Creemos que si se observa la IA desde la perspectiva adecuada, hoy es posible prever uno de los giros que dará la historia. Y creemos que las cosas irán mal si la humanidad no cambia de rumbo.

Los laboratorios de IA compiten por construir máquinas más inteligentes que cualquier ser humano y parecen estar logrando avances significativos en este campo. Como veremos en los próximos capítulos, las IA modernas no se «fabrican», se «cultivan». Muestran comportamientos que nadie ha pedido ni deseado, y están en camino de superar la capacidad de cualquier ser humano. Esto nos parece una situación extremadamente peligrosa.

Los principales científicos del campo se reunieron para firmar una carta abierta en la que advertían al público que la amenaza de la IA debía tratarse como una «prioridad global, junto con otros riesgos a escala social como las pandemias y la guerra nuclear». No se trata de una preocupación aislada, sino que es compartida por casi la mitad de los expertos en la materia. Aunque al principio seas escéptico ante estos peligros, esperamos que el nivel de preocupación de los expertos en IA, y lo mucho que está en juego si sus inquietudes son acertadas, deje claro por qué merece la pena debatir seriamente sobre este tema.

Es un tema en el que debemos sopesar los argumentos en lugar de simplemente seguir nuestra primera intuición. Si las cartas y advertencias son correctas, el mundo se encuentra en una situación increíblemente peligrosa. Dedicaremos el resto del libro a exponer los argumentos y las pruebas que respaldan tales advertencias.

No creemos que no haya nada qué hacer. Hemos escrito este libro con la esperanza de cambiar la trayectoria que parece seguir la humanidad, porque creemos que es posible encontrar una solución.

Pero el primer paso para resolver un problema es comprenderlo.