¿No se preocuparía la IA solo por el ámbito digital? | Si alguien la crea, todos moriremos | If Anyone Builds It, Everyone Dies

¿No se preocuparía la IA solo por el ámbito digital?

No existe un «ámbito digital» independiente de la infraestructura física.

Véase el debate del capítulo 5 sobre cómo no existe un ámbito digital y un ámbito material diferenciados.

Los recursos materiales son útiles para alcanzar la mayoría de los objetivos.

Mientras evolucionábamos hacia la inteligencia, tanto los seres humanos como los homínidos primitivos vivimos principalmente en la superficie terrestre. No tenemos muchos impulsos innatos dirigidos únicamente a lo que ocurre a cien metros bajo tierra. Sin embargo, acabamos construyendo gigantescas minas a cielo abierto.

¿Por qué? Porque queremos muchas cosas que se pueden fabricar con metal, refinado a partir de minerales extraídos de debajo de la superficie terrestre.

Del mismo modo, aunque casi todos vivimos cerca de la superficie terrestre, ponemos satélites en el espacio para transmitir datos de Internet.

Y aunque no comemos ensilado (hierba fermentada), producimos una gran cantidad de ensilado para alimentar al ganado que comemos.

La evolución no dotó a los homínidos de emociones relacionadas con las fábricas; estas no existían cuando se desarrollaron nuestras emociones fundamentales. Pero ahora hemos orientado gran parte de nuestra voluntad como especie hacia la creación de fábricas de uno u otro tipo. Así, las plantas químicas fabrican plástico, que puede utilizarse en otras fábricas para fabricar cucharas de plástico, que pueden enviarse a los seres humanos para que las utilicen para comer los alimentos que realmente quieren.

Todo esto quiere decir que la parte del mundo real que les importa a los humanos es una fina capa que recubre un mundo mucho más grande. No necesitamos preocuparos intrínsecamente por el resto de ese mundo más grande, ni vivir en cada parte de él, para utilizarlo hábilmente con fines a largo plazo. No necesitamos haber sido entrenados por la evolución para amar el cobre, el ensilado o las fábricas para ver su utilidad.

Del mismo modo, una IA puede o no preocuparse en última instancia por el mundo físico. Pero incluso si no se preocupa inherentemente por este, seguirá encontrando mucho valor en los recursos físicos. La materia y la energía pueden utilizarse para crear más sustrato digital, para enfriar procesadores sobrecalentados o para lanzar sondas al espacio con el fin de obtener aún más recursos.

¿Tu pregunta no fue respondida aquí?Envía una pregunta.