Sí. Hay un fenómeno real que describir, aunque sea difícil de definir.

En los últimos treinta años, se han otorgado setenta y siete Premios Nobel de Química a seres humanos y cero a chimpancés. Un extraterrestre, al enterarse de este hecho por primera vez, podría preguntarse si el Comité del Nobel está sesgado. Pero no, realmente hay algo en los seres humanos que nos distingue de los chimpancés.

Es un punto demasiado obvio, pero los puntos obvios a veces importan. Tenemos habilidades que nos permiten caminar en la Luna y que ponen el destino del planeta en nuestras manos en lugar de en las de los chimpancés. Los filósofos y científicos pueden debatir sobre la verdadera naturaleza de la inteligencia, pero sin importar lo que concluyan, el fenómeno subyacente permanece. Algo en los humanos nos ha permitido lograr hazañas nunca antes vistas en la naturaleza; y ese algo tiene que ver con nuestros cerebros, y cómo los usamos para comprender y afectar el mundo que nos rodea.

El hecho de que no podamos dar una definición precisa no significa que no pueda perjudicarnos.

Si te ves envuelto en un incendio forestal, no importa si entiendes o no la química subyacente. Te quemarás de todos modos.

Lo mismo ocurre con la inteligencia. Si las máquinas empiezan a convertir la superficie de la Tierra en su propia infraestructura, mientras generan tanto calor residual que hierven los océanos, entonces no importará mucho si tenemos o no una definición precisa de lo que es la «inteligencia». Moriríamos de todos modos.

Lo decimos literalmente, y en los próximos capítulos exploraremos por qué esperamos resultados tan extremos de una IA más inteligente que los humanos. En el capítulo 3, argumentaremos que las máquinas superinteligentes perseguirían fines. En el capítulo 4, argumentaremos que esos fines no serían los que ningún humano habría pretendido o pedido. En el capítulo 5, argumentaremos que podrían alcanzar sus objetivos si tomaran los recursos que nosotros utilizamos para sobrevivir. Y en el capítulo 6 argumentaremos que serían capaces de desarrollar su propia infraestructura y convertir rápidamente el mundo en un lugar inhabitable.

No necesitas una definición precisa de lo que es la inteligencia para crearla.

Los seres humanos fueron capaces de crear el fuego antes de comprender la química subyacente a la combustión. Del mismo modo, los seres humanos están en camino de crear máquinas inteligentes, a pesar de su falta de comprensión, como veremos en el capítulo 2.

En lugar de pensar en la inteligencia como una noción matemática que necesita una definición precisa, recomendamos pensar en la «inteligencia» como la etiqueta de un fenómeno natural observado que aún no comprendemos bien.

Hay algo en el cerebro humano que nos permite realizar una asombrosa variedad de hazañas. Construimos aceleradores de partículas; desarrollamos nuevos fármacos; inventamos la agricultura; escribimos novelas; llevamos a cabo campañas militares. Hay algo en el cerebro humano que nos permite hacer todas esas cosas, mientras que los ratones y los chimpancés no pueden hacer ninguna de ellas. Aunque todavía no tengamos una comprensión científica completa de esa diferencia mental, es útil tener una etiqueta para ella.

Del mismo modo, es útil poder hablar de una inteligencia que supera a la nuestra. Hoy en día podemos observar IA que son superhumanas en una variedad de dominios específicos; por ejemplo, las IA modernas de ajedrez son superhumanas en el dominio del ajedrez. Es natural preguntarse entonces qué sucederá cuando construyamos IA que sean superhumanas en las tareas de descubrimiento científico, desarrollo tecnológico, manipulación social o planificación estratégica. Y es natural preguntarse qué sucederá cuando construyamos IA que superen a los humanos en todos los dominios.

Si aparece una IA capaz de realizar investigaciones científicas de primer nivel miles de veces más rápido que los mejores científicos humanos, es posible que protestemos diciendo que «no es verdaderamente inteligente», tal vez porque llega a conclusiones de una manera muy distinta a como lo haría un humano. Eso podría incluso ser cierto, dependiendo de la definición de «inteligencia» que elijas. Pero el impacto real de la IA será enorme, independientemente de cómo decidamos etiquetarla.

Necesitamos cierta terminología para hablar de ese tipo de impacto y de los tipos de máquinas que son radicalmente capaces de predecir y dirigir el mundo. En este libro, tomamos el camino fácil de asignar la etiqueta de «inteligencia» a las capacidades, en lugar de a los procesos internos específicos que dan lugar a esas capacidades.