No podemos aprender mucho de la prevalencia de un tema a partir de la ficción.

Aún no se ha creado una IA más inteligente que los humanos, pero sí se ha representado en la ficción. Sin embargo, recomendamos no basarse en estas representaciones. Es probable que la IA real no se parezca mucho a la IA ficticia, por razones que analizaremos en profundidad en el capítulo 4.

La IA no es la primera tecnología que se predijo en la ficción. El vuelo de máquinas más pesadas que el aire y los viajes a la Luna se representaron antes de su tiempo. Y la idea general de las armas nucleares fue anticipada por H. G. Wells, uno de los primeros escritores de ciencia ficción, en una novela de 1914 titulada The World Set Free. Wells no acertó con los detalles; escribió sobre una bomba que ardía intensamente durante días, en lugar de una bomba que explotaba de golpe y dejaba tras de sí una muerte persistente. Pero Wells tenía la idea general de una bomba que funcionaba con energía nuclear en lugar de química.

En 1939, Albert Einstein y Leo Szilard enviaron una carta al presidente Roosevelt en la que pedían a Estados Unidos que intentara adelantarse a Alemania en la construcción de una bomba atómica. Podríamos imaginar un mundo en el que Roosevelt hubiera conocido por primera vez la noción de las bombas nucleares en la novela de Wells, lo que le habría llevado a descartar la idea como ciencia ficción.

De hecho, en la vida real, Roosevelt se tomó la idea en serio, al menos lo suficiente como para crear el Comité Asesor sobre el Uranio. Pero este caso demuestra el peligro de descartar ideas solo porque un escritor de ficción haya hablado de una idea parecida en el pasado.

La ciencia ficción puede inducir a error si se asume que es cierta, o que es falsa. Los autores de ciencia ficción no son profetas, pero tampoco son antiprofetas en el sentido de que nada garantiza que estén equivocados. En la gran mayoría de los casos, es mejor ignorar la ficción y analizar las tecnologías y los escenarios en sus propios términos.

Para predecir lo que sucederá en la realidad, no hay nada como analizar los argumentos y ponderar la evidencia.

Las consecuencias de la IA serán inevitablemente extrañas.

Comprendemos la sensación de que la IA es extraña y que transformaría el mundo y violaría el statu quo. Todos tenemos intuiciones adaptadas, en cierta medida, a un mundo en el que los humanos son la única especie capaz de realizar hazañas como construir una central eléctrica. Todos tenemos intuiciones adaptadas a un mundo en el que las máquinas, a lo largo de toda la historia de la humanidad, siempre han sido herramientas carentes de inteligencia. Una cosa de la que podemos estar muy seguros es que un futuro con IA más inteligentes que los humanos sería diferente.

Los cambios importantes y duraderos en el mundo no ocurren todos los días. La heurística de «nunca pasa nada» funciona muy bien la mayoría de las veces, pero las ocasiones en que falla suelen ser momentos importantes de la historia a los cuales se debe prestar atención. Gran parte del sentido de pensar en el futuro es anticipar esos momentos en los que ocurre algo importante, para que sea posible prepararse.

Una forma de superar el sesgo hacia el statu quo es recordar el registro histórico, como se comentó en la introducción.

Hay inventos que terminan revolucionando el mundo. Piensa en la máquina de vapor y en todas las tecnologías que ayudó a desarrollar durante la Revolución Industrial, transformando rápidamente la vida humana:

¿Es la llegada de la IA general un avance igualmente trascendental? Parece que la inteligencia artificial sería al menos tan trascendental como la Revolución Industrial. Entre otras cosas:

• Es probable que la IA dé lugar a que el progreso tecnológico se desarrolle mucho más rápido. Como veremos en el capítulo 1, las máquinas pueden operar mucho más rápido que el cerebro humano. Y los humanos pueden mejorar la IA —y la IA acabará siendo capaz de mejorarse a sí misma— hasta que las máquinas sean mucho mejores que los humanos para hacer descubrimientos científicos, inventar nuevas tecnologías, etcétera.
• A lo largo de toda la historia de la humanidad, la maquinaria del cerebro humano se mantuvo fundamentalmente sin cambios, incluso mientras la humanidad producía logros de ingeniería cada vez más impresionantes. Cuando la maquinaria de la cognición comience a mejorar por derecho propio, cuando se vuelva capaz de mejorarse a sí misma, debemos esperar que muchas cosas empiecen a cambiar muy rápidamente.
• Además, como veremos en el capítulo 3, es probable que las IA suficientemente capaces tengan objetivos propios. Si las IA fueran esencialmente solo seres humanos más rápidos e inteligentes, eso ya sería algo muy importante por sí mismo. Pero las IA serán, en efecto, una especie totalmente nueva de vida inteligente en la Tierra —una con objetivos propios, que probablemente (como veremos en los capítulos 4 y 5) diverjan de manera importante de los objetivos humanos—.

A primera vista, sería sorprendente que estos dos grandes desarrollos pudieran ocurrir sin revolucionar el orden mundial existente. Para creer en un futuro «normal» tendríamos que creer que la inteligencia artificial jamás superará a la inteligencia humana. Esto nunca pareció una opción verdaderamente viable, y se ha vuelto mucho más difícil de creer en 2025 que en 2015 o 2005.

El futuro a largo plazo también será extraño.

Si miramos muy muy lejos hacia el futuro, el resultado va a ser extraño de alguna manera. El siglo XXI se ve francamente extraño desde la perspectiva del siglo XIX, que, a su vez, se veía extraño desde la perspectiva del siglo XVII. La IA acelera este proceso y añade un jugador muy novedoso al tablero.

Un aspecto del futuro que hoy parece predecible es que las especies tecnológicamente avanzadas no permanecerán atrapadas en su propio planeta de manera indefinida. En este momento, el cielo nocturno está lleno de estrellas que solo queman su energía. Pero nada impide que la vida construya la tecnología necesaria para viajar por las estrellas y aprovechar esa energía con algún fin.

Existen algunas limitaciones físicas en cuanto a qué tan pronto podrán realizarse esos viajes, pero parece que no hay limitaciones para hacerlo en un futuro. No hay nada que nos impida desarrollar en algún momento sondas interestelares que puedan salir y extraer recursos del universo y convertir esos recursos en civilizaciones prósperas, con un complemento de sondas autorreplicantes para colonizar aún más regiones del espacio. Si nos sustituimos por IA, nada impedirá que esas IA hagan lo mismo, pero sustituyendo las «civilizaciones prósperas» por cualquier fin que persiga la IA.

Del mismo modo en que la vida se extendió por las rocas áridas de la Tierra hasta que todo el mundo se llenó de organismos, podemos esperar que la vida (o las máquinas construidas por la vida) se extienda finalmente a partes deshabitadas del universo, hasta que sea tan extraño encontrar un sistema solar sin vida como lo sería encontrar hoy en día una isla sin vida en la Tierra, desprovista incluso de bacterias.

En la actualidad, la mayor parte de la materia del universo, como las estrellas, está dispuesta por casualidad. Pero es casi seguro que, en un futuro a largo plazo, la mayor parte de la materia estará dispuesta según algún diseño, es decir, según las preferencias de las entidades que logren aprovechar y reutilizar las estrellas.

Aunque nada de lo que hay en la Tierra llegara jamás a extenderse por el cosmos, y aunque la mayoría de las formas de vida inteligente que surjan en galaxias lejanas nunca abandonen su planeta de origen, basta una sola inteligencia capaz de viajar por el espacio, en cualquier parte del universo, para encender la chispa y comenzar a propagarse por el universo, viajando a nuevos sistemas estelares y utilizando los recursos que allí se encuentren para construir más sondas con las cuales expandirse hacia aún más sistemas estelares, tal como bastó un solo microorganismo autorreplicante (y un poco de crecimiento exponencial) para convertir un planeta sin vida en un mundo habitado en cada rincón.

Así pues, el futuro no será igual al presente. De hecho, podemos esperar que sea radicalmente distinto. Es previsible que las propias estrellas sean transformadas, a largo plazo, por cualquier especie biológica o IA que busque más recursos, aunque hoy en día no podamos decir mucho sobre cómo será esa especie o sobre el fin al que se destinarán los recursos del universo.

Predecir los detalles parece difícil, casi imposible. Es difícil de determinar. Pero ¿predecir la transformación del universo en un lugar donde la mayor parte de la materia se aprovecha y se destina a algún fin, sea cual sea? Eso es más fácil de predecir, aunque resulte contraintuitivo y extraño para una civilización que apenas ha comenzado a extraer recursos de las estrellas.

No deberíamos esperar que en un millón de años el futuro se parezca al año 2025, con un montón de simios sin pelo deambulando por la superficie de la Tierra. Mucho antes de eso, o nos habremos extinguido, o nuestros descendientes habrán salido a explorar el cosmos por sí mismos.^*

No cabe duda de que las cosas se van a poner raras para la humanidad. La pregunta es cuándo.

El futuro nos llegará de golpe.

Tecnologías como la IA significan que el futuro puede llamar pronto a nuestra puerta, y sus efectos pueden afectarnos con fuerza.

La Revolución Industrial transformó el mundo muy rápidamente, según los estándares de la historia premoderna. El Homo sapiens remodeló el mundo muy rápidamente, según los estándares de los procesos evolutivos. La vida remodeló la Tierra muy rápidamente, según los estándares de los procesos cosmológicos y geológicos. Y los nuevos procesos para cambiar el mundo pueden remodelarlo muy rápidamente, según los antiguos estándares.

La humanidad parece estar al borde de otra transformación radical, en la que las máquinas pueden empezar a remodelar el mundo a velocidades mecánicas, que superan con creces las velocidades biológicas. En los capítulos 1 y 6 hablaremos más sobre cómo se compararía la inteligencia de las máquinas frente a la inteligencia humana. Pero, como mínimo, debemos tomarnos en serio la posibilidad de que el desarrollo de máquinas más inteligentes que los humanos cambie radicalmente el mundo a gran velocidad. Este tipo de cosas han ocurrido una y otra vez a lo largo de la historia.

Notes