Los caballos siguen aquí porque nos gustan.

Tener el mismo destino que tuvieron los caballos a principios del siglo XX —el mismo colapso catastrófico de la población y el aumento masivo de la mortalidad que destruyó más del ochenta por ciento de la población equina desde su punto álgido alrededor de 1910— sería lo peor que haya ocurrido en la historia de la humanidad. Y eso pasó en un mundo en el que los caballos seguían siendo económicamente útiles para algunos trabajos agrícolas, así como para deportes y experiencias novedosas que vender a los ricos.

Si la gente hubiera tenido acceso a caballos artificiales con una forma más o menos similar, pero más fáciles y divertidos de montar, más baratos de mantener y más agradables, cariñosos y prácticos, el declive de los caballos habría sido aún más pronunciado.

En otras palabras: el progreso tecnológico (la invención de los coches) hizo que los humanos se deshicieran de la mayoría de los caballos. Y si hubiera habido aún más progreso, el efecto podría haber sido fácilmente aún más drástico. Es probable que lo mismo ocurra con las IA a medida que sus opciones se amplíen y encuentren formas de alcanzar sus objetivos sin humanos.

Pero sí, algunos caballos sobrevivieron. Un pequeño número siguió siendo útil. Otros fueron conservados por personas que amaban a los caballos y se preocupaban por ellos en particular.

Para que los humanos podamos seguir viviendo en un mundo en el que nos hemos apresurado a liberar una IA superinteligente, tendríamos que seguir siendo útiles para la IA o conseguir que la IA se preocupe por nosotros en particular.

Pero no podemos seguir siendo útiles, porque las IA pueden (desde su perspectiva) sacar más partido de nuestra materia y energía reorganizándonos en cualquier número de configuraciones más eficientes. El progreso tecnológico abre muchas opciones nuevas para una superinteligencia; no se verá limitada a depender de los humanos.

Así que todo se reduce a si las IA se preocupan por nosotros, y es poco probable que lo hagan aunque sea un poco si corremos hacia la superinteligencia tan rápido como podamos.