Es mucho más probable que la IA nos mate a todos.

En estos recursos en línea, estamos dispuestos a abordar una amplia variedad de escenarios extraños e improbables, con el fin de explicar por qué creemos que son improbables y por qué (en la mayoría de los casos) seguirían siendo resultados catastróficos para la humanidad.

Sin embargo, no creemos que estos escenarios específicos deban distraer la atención del titular. El resultado más probable, si nos apresuramos a crear una IA más inteligente que los humanos, es que la IA consuma los recursos de la Tierra en pos de algún fin, acabando con la humanidad en el proceso.

El título del libro no pretende transmitir una certeza absoluta. Más bien, debe entenderse como alguien que ve a un amigo llevarse un frasco de veneno a la boca y le grita: «¡No bebas eso! ¡Morirás!».

Sí, técnicamente es posible que te lleven al hospital y que un médico genio invente una cura milagrosa sin precedentes que solo te deje paralizado del cuello para abajo. No estamos diciendo que no haya posibilidad de milagros. Pero si ni siquiera los milagros conducen a resultados especialmente buenos, entonces parece aún más claro que no debemos beber el veneno.

La IA más inteligente que los humanos no es un juego ni una historia de ciencia ficción. Nuestros seres queridos reales van a morir (con una probabilidad muy alta) si la comunidad internacional no interviene y evita que la industria de la IA se precipite por un acantilado. Podemos hablar de subescenarios y subsubescenarios cada vez más específicos, jugando a juegos filosóficos en la cubierta del Titanic mientras el iceberg extremadamente evidente se acerca. O podemos intentar cambiar de rumbo.