Con más tecnología, probablemente haríamos aún menos copias de nuestros genes.

Los humanos compiten por ascensos prestigiosos y admisiones en universidades de la Ivy League mucho más que por oportunidades para donar a bancos de esperma u óvulos.

Los bancos de esperma y óvulos les pagan a los donantes por las molestias, en lugar de al revés.

La mayoría de los tiranos a lo largo de la historia ni siquiera intentaron usar su poder para tener miles de hijos. Y las tasas de natalidad reales en el mundo actual están disminuyendo.

Muchos humanos valoran tener hijos, pero muchos otros no, y es extremadamente raro que alguien intente maximizar su número de descendientes (por ejemplo, acudiendo a bancos de esperma tanto como sea posible). En cambio, los humanos compiten en gran medida por cosas como el sexo, la fama y el poder, cosas que son, en el mejor de los casos, sustitutos imperfectos de la aptitud reproductiva.

Sin embargo, uno podría mirar este panorama y decir: bueno, los humanos terminaron preocupándose un poco por tener hijos, aunque esa preocupación sea menor que la máxima. Tal vez las IA se preocupen un poco por nosotros y nos arrojen algún hueso, en lugar de matarnos a todos.

Un problema con esta esperanza es que los sustitutos que nos importan se han desvinculado recientemente (en escalas de tiempo evolutivas) de la aptitud reproductiva real, y es probable que se distancien aún más en el futuro, a medida que los humanos continúen encontrando nuevas vías tecnológicas para satisfacer sus deseos.

Por ejemplo: nuestro impulso de tener hijos no es exactamente un impulso de propagación genética. Supongamos que en el futuro se crea una tecnología que reemplaza todo el ADN de las células de una persona con maquinaria molecular diferente que la hace inmune a todas las enfermedades y extiende su vida saludable.

(Supongamos también que esta tecnología no cambia la personalidad de la persona ni causa otros efectos secundarios perjudiciales, de modo que las muchas personas que tengan dudas razonables sobre la seguridad de la nueva tecnología no tengan de qué preocuparse).

Esperamos que muchos padres se emocionen al saber que sus hijos han recibido el tratamiento. Y tal vez haya algunos reticentes al principio, pero esperamos que, si se demuestra que la tecnología funciona y se vuelve barata y fiable, eventualmente se vuelva ubicua. Lo cual nos revela tal como somos: personas a las que les gusta tener hijos, tener familias, divertirse, no personas a las que les gusta propagar su ADN.

Nos parece que a la mayoría de los seres humanos simplemente no les importa en absoluto la aptitud genética, en el sentido profundo. Nos importan los sustitutos, como la amistad, el amor, la familia y los hijos. Quizás incluso nos importe transmitir algunos de nuestros rasgos a la siguiente generación. Pero ¿los genes, específicamente?

Cada vez que la humanidad ha desbloqueado una tecnología que nos permite obtener más de lo que nos gusta —como alimentos sabrosos o sexo sin reproducción— la humanidad ha aceptado el trato. No somos lo suficientemente avanzados tecnológicamente como para poder cambiar genomas por vidas más largas y saludables. Pero ese tipo de cosas parecen posibles en principio físico,^* por lo que no pinta bien para la selección natural a largo plazo.

Si las IA terminan preocupándose por la bondad, la amabilidad y la cordialidad de alguna manera parecida a como la humanidad se preocupa por la aptitud genética, entonces esperamos que las IA eventualmente inventen cosas que sean para la «cordialidad» lo que el control de la natalidad y los niños sin ADN son para la aptitud genética —es decir, que persigan cosas que no son más que una sombra sin sentido de lo que cualquier humano desearía o pretendería—.

No sería bueno que las IA se preocuparan un poco por los humanos.

Por mucho que la mayoría de los humanos parezcan preocuparse más por los niños y la familia que por la propagación genética per se, sin duda hay algunos humanos que insisten en que se preocupan al menos un poco por sus genes. Somos un poco escépticos con respecto a algunas de estas afirmaciones —por ejemplo, tal vez algunas personas en el mundo moderno que intentan transmitir sus genes tanto como sea posible lo hacen por un sentido de superar a la competencia, y tal vez ese tipo de personas competirían en cambio por cuántos hijos sin ADN podrían tener, si los hijos sin ADN alguna vez se volvieran ubicuos—. Pero tal vez otras afirmaciones de este tipo sean ciertas. Quizás realmente haya un puñado de humanos a los que les importe profundamente propagar sus genes, de forma robusta, al menos un poco. ¡Los humanos tienen todo tipo de preferencias, después de todo!

¿No podría ocurrir lo mismo con la IA? Si hay muchas IA extrañas y diversas, ¿no podría ser que al menos algunas de ellas acabaran preocupándose por los humanos, al menos un poco?

Es posible. Por desgracia, esperamos que, en su mayoría, esto tampoco sería bueno para la humanidad. Este es un tema que abordaremos seriamente después del capítulo 5, siendo la discusión principal si las IA podrían acabar preocupándose por nosotros al menos un poco.

Pero antes de llegar ahí, retrocedamos un paso por un momento. Imaginemos que la situación con la IA es que los métodos modernos no pueden hacer que las IA se preocupen mucho por nosotros, pero esperamos que si creamos muchas IA, entonces una pequeña fracción se preocupará por nosotros en alguna pequeña medida, aunque solo sea por casualidad. La idea es que si construimos IA hoy, entonces su resultado más preferido es que acaparen casi todos los recursos del universo y los gasten en algo sin sentido, mientras que quizá mantengan a unos pocos humanos en una pequeña reserva humana.

Si la humanidad se precipita y juega a los dados con la superinteligencia, esperamos un resultado mucho mucho peor. Pero esto nos sigue pareciendo un plan muy malo, incluso si tuviéramos motivos para pensar que las IA se preocuparían por nosotros al menos un poco. Por lo tanto, esta línea de especulación no solo parece errónea, sino también irrelevante.