L'IA non si interesserebbe solo al regno digitale?
Non c'è un "mondo digitale" che non dipenda dalle infrastrutture fisiche.
Si veda la discussione nel Capitolo 5 su come non esistano un Regno Digitale e un Regno Materiale distinti.
Le risorse materiali sono utili per perseguire la maggior parte degli obiettivi.
Gli umani e i precedenti ominidi vivevano per lo più in superficie mentre evolevano l'intelligenza. Non abbiamo molte pulsioni innate rivolte specificamente a ciò che accade cento metri sotto la superficie terrestre. Eppure abbiamo finito per costruire gigantesche miniere a cielo aperto.
Perché? Perché vogliamo molte cose che possono essere fatte con il metallo, che viene raffinato da minerali, che vengono estratti da sotto la superficie terrestre.
Allo stesso modo, anche se quasi tutti viviamo vicino alla superficie terrestre, mandiamo i satelliti nello spazio per trasmettere i dati di Internet.
E anche se noi non mangiamo l’insilato (cioè l’erba fermentata) ne produciamo parecchio per nutrire il bestiame che poi mangiamo a nostra volta.
L'evoluzione non ha dato agli ominidi alcuna emozione riguardo alle fabbriche; le fabbriche non esistevano quando le nostre emozioni chiave si stavano sviluppando. Ma ora abbiamo concentrato gran parte della nostra volontà come specie verso la creazione di fabbriche di vario tipo. E così gli impianti chimici producono plastica, che può essere usata in altre fabbriche per fare cucchiai di plastica, che possono essere spediti agli umani che usano i cucchiai per mangiare il cibo che gli umani vogliono davvero.
Il che significa che la parte del mondo reale a cui gli umani tengono in quanto tale è una sottile pellicola che ricopre un mondo molto più grande. Non abbiamo bisogno di tenere intrinsecamente al resto del mondo più grande, né di viverne ogni parte, per utilizzarlo abilmente per fini a lungo termine. Non abbiamo bisogno di essere stati addestrati dall'evoluzione ad amare il rame, l'insilato o le fabbriche per comprenderne l'utilità.
Allo stesso modo, un'intelligenza artificiale potrebbe o meno interessarsi al mondo fisico alla fine. Ma anche se non si interessa intrinsecamente al mondo fisico, troverà comunque molto valore nelle risorse fisiche. La materia e l'energia possono essere utilizzate per creare più substrato digitale, per raffreddare i processori surriscaldati o per lanciare sonde nello spazio per raccogliere ancora più risorse.