Parece poco probable y no particularmente relevante.

El cerebro y el cuerpo humanos están formados por partes que podemos estudiar y llegar a comprender. Hay muchas cosas que no entendemos sobre el cerebro, pero eso no significa que las partes que no entendemos funcionen por arte de magia y que los humanos nunca podamos construir nada similar. Solo significa que los cerebros son máquinas enormemente complicadas. El cerebro humano tiene cientos de billones de sinapsis, y nos queda un largo camino por recorrer para comprender todos los principios importantes de alto nivel que intervienen en su funcionamiento.

La inteligencia también está compuesta por piezas: algoritmos y cálculos individuales que nuestros cerebros realizan de forma natural, aunque no tenemos una comprensión científica de cómo funcionan nuestros propios cerebros.

Incluso si hubiera algún aspecto del razonamiento biológico que fuera muy difícil de implementar en las máquinas, eso no significaría que la IA nunca superaría a la humanidad. Las IA podrían simplemente hacer el mismo tipo de trabajo de una manera diferente, como cuando la IA Deep Blue encontró jugadas ganadoras en el ajedrez de una manera muy diferente a la de Garry Kasparov.^* Lo que importa no es si las máquinas poseen todas las características únicas de los seres humanos, sino si se vuelven capaces de predecir y dirigir el mundo.

Los próximos capítulos ayudarán a arrojar más luz sobre este punto. En el capítulo 2, cubriremos cómo las IA modernas son cultivadas en lugar de creadas, y cómo el proceso de cultivo tiende a hacer que las IA sean muy capaces. En el capítulo 3, cubriremos cómo los intentos de hacer que las IA sean cada vez más capaces tienden a impulsarlas cada vez más hacia el logro de objetivos difíciles. Y en el capítulo 4, discutiremos cómo es poco probable que esos objetivos sean los que los desarrolladores pretendían, ni los que los usuarios solicitaron. Todo esto es suficiente para que las IA conduzcan al mundo a la ruina, independientemente de si consideras que las IA tienen alguna chispa vital, o conciencia, o cualquier otra cosa que puedas imaginar que hace especiales a los seres humanos.

Véase también, en los próximos recursos en línea:

• Capítulo 2: «¿No es la IA "solo matemáticas"?» y «¿No serán las IA inevitablemente frías, mecánicas y lógicas, o les faltará alguna chispa crucial?»
• Capítulo 3: «Antropomorfismo y mecanomorfismo»
• Capítulo 5: «Eficacia, conciencia y bienestar de la IA»