Es gibt viele vernachlässigbare Kosten, und es bräuchte einen Grund, unsere zu bezahlen.

Einen Haufen von einundvierzig Steinen in Ihrem Haus aufzubewahren, wäre ein vernachlässigbarer Aufwand, aber Sie würden sich mit ziemlicher Sicherheit nicht die Mühe machen, diesen Aufwand zu betreiben.^*

Dass etwas billig ist, bedeutet nicht, dass es auch getan wird. Die KI müsste sich zumindest ein wenig darum kümmern, und das wird sie wahrscheinlich nicht tun.

Man könnte fragen: Aber die Erde fängt etwa 0,0000045 Prozent des von der Sonne ausgestrahlten Lichts ab, also einen Teil von 2,2 Milliarden. Verstehen alle Menschen, die sich Sorgen um KI machen, einfach nicht, wie groß das Sonnensystem wirklich ist? Warum sollten KIs unseren Planeten brauchen, wenn es so viel Masse und Energie gibt?

Eine Antwort lautet, dass die KI auf der Erde beginnen wird, wo es riesige Ozeane gibt, die darauf warten, als Kühlmittel für Berechnungen erhitzt und verdampft zu werden. Die Erde verfügt auch über Materie, die in Sonden umgewandelt und zu anderen Sternen geschickt werden könnte. Die Weigerung, die Erde zu verbrauchen, kostet Zeit, und Zeit ist wichtig (da Galaxien für immer außer Reichweite entschwinden).

Selbst wenn die KI es leicht in den Weltraum schaffen und mit dem Bau groß angelegter Maschinen beginnen könnte, ohne dabei die Erde zu zerstören, ist es unwahrscheinlich, dass sie die Sonne ignorieren würde.

Eine der gängigeren Theorien darüber, wie eine fortgeschrittene Zivilisation wachsen könnte, beinhaltet den Bau einer Dyson-Sphäre, um mehr Sonnenlicht einzufangen. Andere Vorschläge sehen vor, noch mehr Energie zu gewinnen, indem Materie aus dem Stern "herausgehoben" wird, um sie in Kraftwerken zu fusionieren, die fast die gesamte durch die Fusion freigesetzte Energie einfangen (anstatt den größten Teil davon im Zentrum eines Sterns ungenutzt zu lassen).

Keiner dieser Vorschläge sieht standardmäßig vor, dass viel Sonnenlicht auf die Erde fällt, um das Wachstum der Pflanzen und ein stabiles Klima zu gewährleisten. Die KI müsste sich schon sehr anstrengen, um uns das zu ermöglichen.

Es mag immer noch so aussehen, als sei der Energiebedarf der Menschen vernachlässigbar. Ein Mensch benötigt etwa 100 Watt Energie zum Leben, was für ein Wesen, das Sterne ernten kann, nur Kleingeld ist. Würde eine Superintelligenz nicht einmal die 800 Gigawatt opfern, die nötig wären, um 8 Milliarden Menschen am Leben zu erhalten?

Unsere Antwort lautet letztendlich: Nein, es sei denn, sie legt mehr Wert auf dieses Ergebnis oder dessen Folgen als auf alles andere, was sie mit 800 Gigawatt erreichen könnte.

Die überwiegende Mehrheit der Menschen spart nicht einmal die relativ unbedeutende Menge an Zucker, die nötig wäre, um den nächsten Ameisenhaufen mit einem Kalorienüberschuss zu versorgen. Die Menschheit glücklich zu machen, wäre für eine KI, die dies wollte, ein vernachlässigbarer Aufwand, aber zuerst müsste die KI diese Präferenz haben. Die bloße Tatsache, dass wir es wollen, bedeutet nicht, dass es der KI wichtig sein wird.^†

Notes