Weil es unserer besten Einschätzung entspricht, was physikalisch möglich ist.

Kapitel 9 beschreibt eine Superintelligenz, die ihre Technologie bis an die Grenzen des physikalisch Möglichen treibt. Die genauen Technologien, die wir nennen, sind in gewisser Weise spekulativ, aber auch wenn es schwierig ist, die genaue Technologie vorherzusagen, die eine Superintelligenz erschließen würde, ist die Tatsache, dass sie nahe an die physikalischen Grenzen stoßen würde, leichter vorherzusagen. Also haben wir unsere besten Vermutungen darüber angestellt, wie die Technologie aussehen würde, wenn sie nahe an die physikalischen Grenzen des Möglichen getrieben würde.

Für Neugierige finden Sie hier eine Liste der spekulativen Technologien, die wir in Kapitel 9 erwähnen, sowie Links zu weiteren Ressourcen:

• Neo-Ribosomen: Die Idee künstlicher Ribosomen, also synthetischer Versionen der winzigen Proteinfabriken in Zellen, gibt es schon seit vielen Jahren, und menschliche Forscher arbeiten bereits daran, ihre eigenen zu synthetisieren. Diese und die in Kapitel 9 erwähnten "winzigen molekularen Maschinen" sind einige Beispiele für molekulare Nanotechnologie. Weitere Informationen zu diesem Zweig des Technologiebaums finden Sie in der Diskussion über Nanotechnologie im Anhang zu Kapitel 6.
• Nutzung von Sternen: Sterne enthalten viel Wasserstoff, der zur Energiegewinnung fusioniert werden könnte. Eine ausreichend fortgeschrittene Zivilisation (oder KI) könnte wahrscheinlich effiziente Wege finden, um auf diese Energie zuzugreifen. Eine vorgeschlagene Methode ist das sogenannte "Star Lifting", bei dem Wasserstoff aus einem Stern herausgezogen wird, um in einem speziellen Reaktor fusioniert zu werden, wo fast die gesamte Fusionsenergie aufgefangen werden kann (anstatt in der Mitte des Sterns verloren zu gehen).
• Botulinumtoxin: Botulinum ist ein von dem Bakterium Clostridium botulinum ausgeschiedenes Neurotoxin und gehört zu den tödlichsten bekannten biologischen Substanzen. Was die Verabreichungsmechanismen angeht, so gibt es bereits Drohnen von der Größe kleiner Insekten, und eine Superintelligenz könnte sie wahrscheinlich noch viel kleiner machen.^*
• Die Ozeane als Kühlmittel zum Kochen bringen: Robert Freitas prägte den Begriff "Ökophagie", um den Prozess der Ausbeutung der Ökosysteme eines Planeten mithilfe selbstreplizierender Technologie zu beschreiben. Weitere Informationen zu diesem Thema finden Sie in Freitas' Artikel aus dem Jahr 2000 mit dem Titel "Some Limits to Global Ecophagy" (Einige Grenzen der globalen Ökophagie).
• Sternengroße Gehirne: Grundsätzlich können Computer enorm vergrößert werden. Am oberen Ende der Skala steht ein Konzept, das manchmal als Matrioshka-Gehirn oder "Jupiter-Gehirn" bezeichnet wird, also ein riesiger Computer, der mit der Energie eines Sterns betrieben wird.
• Quantencomputer: Ein Quantencomputer nutzt eine Eigenschaft der Quantenmechanik namens "Superposition", um viele Berechnungen parallel durchzuführen. Quantencomputer erfordern extreme Präzision bei der Herstellung, und ein Design erfordert Supraleiter, die extrem kalt gehalten werden müssen. Weitere Informationen finden Sie in der Erklärung des NIST.

Das düstere Ende der Geschichte diskutiert auch die Möglichkeit, dass KI eines Tages, in Hunderten von Millionen von Jahren, auf Außerirdische trifft, wenn sie sich in die Weiten des Universums ausbreitet. Das Universum ist groß, und einfache Modelle legen nahe, dass es mehr als eine Spezies beherbergen könnte, die eines Tages Zivilisationen bilden könnte, wenn auch vielleicht sehr weit entfernt von der Erde. Siehe auch Robin Hansons Artikel aus dem Jahr 2021, in dem er versucht, das Fermi-Paradoxon zu lösen: "If Loud Aliens Explain Human Earliness, Quiet Aliens Are Also Rare" (Wenn laute Außerirdische die frühe Entwicklung des Menschen erklären, sind stille Außerirdische ebenfalls selten).

Der Zweck von Kapitel 9 besteht unter anderem darin, ein Gefühl für den Umfang und die Bedeutung der Herausforderungen zu vermitteln. Es spielt eigentlich keine Rolle, wie nah eine Superintelligenz ihre Technologie an die Grenzen der physikalischen Möglichkeiten bringen kann. Es ist jedoch sehr wahrscheinlich, dass die Folgen einer außer Kontrolle geratenen Superintelligenz über den planetarischen Maßstab hinausgehen würden. Auch das sollte man im Hinterkopf behalten, wenn man sich wünscht, dass die Sterne eines Tages voller Liebe, Staunen und Freude sein werden.