La preferencia humana por la conservación ecológica parece otro impulso contingente extraño.

Hay quienes esperan que las IA quieran mantener a los humanos vivos, de la misma manera que los humanos intentan conservar la naturaleza. Los conservacionistas luchan para evitar que las especies se extingan. Al ser más inteligentes y capaces, las IA deberían tener cierta facilidad para proteger a los humanos, suponiendo que quieran mantenernos vivos.

No creemos que esto vaya a pasar. En primer lugar, porque consideramos que la IA acabará teniendo sus propios deseos extraños y complicados, en lugar de deseos reconociblemente humanos. Para más información sobre este punto, consulta el capítulo 4 (y algunos de los debatesampliados). Para ver algunas evidencias empíricas iniciales sobre este punto, consulta el debate sobre la psicosis inducida por la IA.

En segundo lugar, incluso en el improbable caso de que alguna IA tuviera un deseo similar al deseo humano de «conservar» el mundo en el que ha surgido, no creemos que esto termine bien para nuestra especie. Creemos que este tipo de razonamiento por analogía —«los humanos conservan el medio ambiente, así que quizá las IA nos conservarán a nosotros»— es pecar de optimistas.^*

Supongamos que, de alguna manera, una IA acabara teniendo un impulso similar al humano de proteger su entorno natural. Para averiguar qué pasaría entonces, podemos empezar por observar el impulso real de los humanos de proteger la naturaleza.

Por desgracia, este impulso parece, en el mejor de los casos, irregular. Dejando de lado el hecho de que, cuando los humanos tienen que elegir entre la conservación ecológica y algún otro objetivo, la conservación ecológica suele salir perdiendo. Quizás eso sea solo una consecuencia de las limitaciones tecnológicas de la humanidad. Quizás si tuviéramos una tecnología maravillosa en el futuro, podríamos tenerlo todo.

No, lo «irregular» de nuestro impulso de conservación que es relevante para la situación que nos ocupa es que, cuando se trata de la conservación ecológica, preferimos conservar las partes de la ecología que nos parecen más interesantes, bellas o valiosas, de acuerdo con todos nuestros otros impulsos.

La gente se preocupa mucho por la protección de los adorables pandas, mientras que especies poco atractivas como la tijereta gigante y la rana incubadora gástrica languidecen en el olvido hasta que se extinguen. Incluso hay algunas especies que preferiríamos eliminar, como los mosquitos portadores de la malaria, que matan a medio millón de niños cada año.

La mayoría de los seres humanos no tienen un impulso conservacionista «puro». Tenemos un impulso conservacionista que está teñido por todos nuestros otros valores.

Para entender mejor este punto, pensemos en las avispas esmeralda, las moscas del gusano barrenador, los reznos y otros parásitos similares, que ponen sus huevos dentro de presas vivas; las larvas se alimentan del huésped, causándole un dolor extremo en el proceso. ¿Sería el mundo realmente un lugar mejor, según los valores de la mayoría de las personas, si preserváramos esta «maravilla natural» exactamente tal como es? En el límite de la tecnología, ¿no podríamos al menos modificar genéticamente estos parásitos para proporcionar un poco de anestesia aquí y allá? ¿Sería realmente mejor no modificar estos insectos para que pongan sus huevos en las plantas?

La naturaleza, cuando se mira más allá de lo que se les enseña a los niños, está llena de horrores. No parece obvio que, si los humanos logran tener un buen futuro, nuestros descendientes decidan dejar que todos estos horrores continúen. Ya hay humanos que han declarado su preocupación por el bienestar de los animales salvajes.

Nuestra preferencia por la conservación no es pura, ni simple, ni directa. Contiene tensiones y conflictos internos vinculados a todos nuestros otros valores e impulsos.

No sabemos cómo se manifestarían los instintos de conservación de la humanidad en los límites de la madurez tecnológica. La cuestión es que, aunque una IA acabara teniendo algún impulso de conservación ecológica, eso no significa que la humanidad vaya a tener un final feliz. Porque cualquier impulso de conservación que se incorpore a la IA también puede ser impuro, complejo y estar mezclado con todos sus otros valores e impulsos.

Quizás, al igual que según las preferencias de la humanidad algunos hábitos animales son abominables, según las preferencias de la IA, algunos estados psicológicos humanos serían abominables. Al igual que nosotros modificaríamos el gusano barrenador para que dejara de perforar túneles agonizantes en la carne viva, tal vez las IA crearían una nueva raza de humanos a los que se les habría eliminado la música o la soledad. O tal vez realizarían otras modificaciones más complicadas en la humanidad, según preferencias complejas que simplemente no podemos predecir.

Para crear una IA que realmente permita a las personas llevar una vida próspera, probablemente tendríamos que crear una que se preocupe por eso en particular. Tendríamos que averiguar cómo hacer que las IA se preocupen por nosotros al menos un poco, y eso no ocurre automáticamente.