Würde sich KI nicht nur für die digitale Welt interessieren?
Es gibt keinen "digitalen Bereich", der unabhängig von der physischen Infrastruktur ist.
Siehe die Diskussion in Kapitel 5 darüber, dass es keinen klar getrennten digitalen Bereich und materiellen Bereich gibt.
Materielle Ressourcen sind für die Verfolgung der meisten Ziele nützlich.
Menschen und frühere Hominiden lebten während der Entwicklung ihrer Intelligenz meist über der Erde. Wir haben nicht viele angeborene Triebe, die sich ausschließlich auf das beziehen, was hundert Meter unter der Erdoberfläche geschieht. Dennoch haben wir am Ende riesige Tagebaustätten errichtet.
Warum? Weil wir viele Dinge wollen, die aus Metall hergestellt werden können, das aus Erz raffiniert und unter der Erdoberfläche abgebaut wird.
Ähnlich verhält es sich damit, dass wir zwar fast alle nahe der Erdoberfläche leben, aber Satelliten ins All schicken, um Internetdaten zu übertragen.
Und obwohl wir keine Silage (fermentiertes Gras) essen, stellen wir ziemlich viel Silage her, um damit das Vieh zu füttern, das wir wiederum essen.
Die Evolution hat den Hominiden keine Emotionen gegenüber Fabriken eingeprägt; Fabriken gab es noch nicht, als sich unsere wichtigsten Emotionen entwickelten. Aber wir haben nun einen Großteil unseres Willens als Spezies darauf ausgerichtet, Fabriken der einen oder anderen Art ins Leben zu rufen. Und so stellen die Chemiefabriken Plastik her, das in anderen Fabriken zur Herstellung von Plastiklöffeln verwendet werden kann, die an Menschen verschickt werden können, die die Löffel zum Essen der Lebensmittel verwenden, die die Menschen tatsächlich wollen.
Das heißt: Der Teil der realen Welt, der den Menschen um seiner selbst willen interessiert, ist eine dünne Haut, die über eine viel größere Welt gespannt ist. Wir müssen uns nicht von Natur aus um den Rest der größeren Welt kümmern oder in jedem Teil davon leben, um sie geschickt für längerfristige Ziele zu nutzen. Wir müssen nicht durch die Evolution darauf trainiert worden sein, Kupfer oder Silage oder Fabriken zu lieben, um ihren Nutzen zu erkennen.
Ebenso kann es sein, dass eine KI sich letztendlich für die physische Welt interessiert oder auch nicht. Aber selbst wenn sie sich nicht von Natur aus für die physische Welt interessiert, wird sie dennoch einen großen Wert in physischen Ressourcen sehen. Materie und Energie können genutzt werden, um mehr digitales Substrat zu schaffen, überhitzte Prozessoren zu kühlen oder Sonden ins All zu schicken, um noch mehr Ressourcen zu sammeln.