Wir können aus der Verbreitung eines Themas in der Fiktion nicht viel lernen.

Eine KI, die intelligenter ist als der Mensch, wurde noch nicht entwickelt, aber sie wurde bereits in der Fiktion dargestellt. Wir raten jedoch davon ab, sich an diesen Darstellungen zu orientieren. Die reale KI wird wahrscheinlich nicht viel mit der fiktiven KI gemeinsam haben, aus Gründen, auf die wir in Kapitel 4 näher eingehen werden.

KI ist nicht die erste Technologie, die in der Fiktion vorweggenommen wurde. Auch Flüge mit Flugzeugen, die schwerer als Luft sind, und Reisen zum Mond wurden schon vor ihrer Zeit dargestellt. Und die allgemeine Idee von Atomwaffen wurde von H. G. Wells, einem der ersten Science-Fiction-Autoren, in einem Roman aus dem Jahr 1914 mit dem Titel "The World Set Free" vorweggenommen. Wells hat die Details nicht richtig verstanden. Er schrieb über eine Bombe, die tagelang intensiv brannte, anstatt über eine Bombe, die auf einmal explodierte und einen langwierigen Tod hinterließ. Aber Wells hatte die allgemeine Idee einer Bombe, die mit nuklearer statt mit chemischer Energie betrieben wurde.

1939 schickten Albert Einstein und Leo Szilard einen Brief an Präsident Roosevelt, in dem sie die USA aufforderten, Deutschland beim Bau einer Atombombe zu überholen. Wir könnten uns eine Welt vorstellen, in der Roosevelt zum ersten Mal in Wells' Roman auf die Idee der Atombombe gestoßen wäre und sie als Science-Fiction abgetan hätte.

Tatsächlich nahm Roosevelt die Idee ernst, zumindest genug, um das Advisory Committee on Uranium zu gründen. Dieser Fall zeigt jedoch, wie gefährlich es sein kann, Ideen abzulehnen, nur weil ein Science-Fiction-Autor in der Vergangenheit eine ähnlich klingende Idee erwähnt hat.

Science-Fiction kann sowohl irreführend sein, weil man annimmt, dass sie wahr ist, als auch, weil man annimmt, dass sie falsch ist. Science-Fiction-Autoren sind keine Propheten, aber sie sind auch keine Anti-Propheten, deren Worte garantiert falsch sind. In den allermeisten Fällen ist es besser, Fiktion zu ignorieren und Technologien und Szenarien für sich zu analysieren.

Um vorherzusagen, was in der Realität passieren wird, gibt es keinen Ersatz dafür, die Argumente zu durchdenken und die Beweise abzuwägen.

Die Folgen der KI werden unweigerlich seltsam sein.

Wir können die Reaktion nachvollziehen, dass KI seltsam ist, dass sie die Welt verändern und den Status quo verletzen würde. Wir alle haben Intuitionen, die bis zu einem gewissen Grad an eine Welt angepasst sind, in der Menschen die einzige Spezies sind, die zu Leistungen wie dem Bau eines Kraftwerks fähig ist. Wir alle haben Intuitionen, die an eine Welt angepasst sind, in der Maschinen während der gesamten Menschheitsgeschichte immer unintelligente Werkzeuge waren. Eine Sache, der wir uns sehr sicher sein können, ist, dass eine Zukunft mit KI, die intelligenter ist als Menschen, anders aussehen würde.

Große, dauerhafte Veränderungen in der Welt geschehen nicht jeden Tag. Die Heuristik "Es passiert nie etwas" funktioniert in den meisten Fällen sehr gut, aber die Zeiten, in denen sie versagt, gehören zu den wichtigsten Momenten in der Geschichte, denen man Aufmerksamkeit schenken sollte. Ein wichtiger Grund, überhaupt über die Zukunft nachzudenken, besteht darin, jene Momente zu antizipieren, in denen etwas Großes passiert, damit man sich darauf vorbereiten kann.

Eine Möglichkeit, den Bias für den Status quo zu überwinden, besteht darin, sich an historische Ereignisse zu erinnern, wie in der Einleitung erläutert.

Manchmal verändern bestimmte Erfindungen die Welt grundlegend. Denken Sie an die Dampfmaschine und die vielen anderen Technologien, die sie während der industriellen Revolution ermöglicht hat und die das Leben der Menschen rapide verändert haben:

Ist das Aufkommen einer wirklich allgemeinen KI eine ähnlich folgenreiche Entwicklung? Es scheint, dass künstliche Intelligenz mindestens ebenso folgenreich sein könnte wie die industrielle Revolution. Unter anderem:

• KI dürfte einen viel schnelleren technologischen Fortschritt ermöglichen. Wie wir in Kapitel 1 diskutieren werden, können Maschinen viel schneller arbeiten als das menschliche Gehirn. Und Menschen können KI verbessern und KI wird sich schließlich selbst verbessern können, bis Maschinen weitaus besser als Menschen darin sind, wissenschaftliche Entdeckungen zu machen, neue Technologien zu erfinden usw.

  Während der gesamten Menschheitsgeschichte blieb die Funktionsweise des menschlichen Gehirns im Wesentlichen unverändert, auch wenn die Menschheit immer beeindruckendere technische Meisterleistungen vollbrachte. Wenn sich die Funktionsweise der Kognition von selbst zu verbessern beginnt, wenn sie in die Lage kommt, sich selbst verbessern zu können, sollten wir davon ausgehen, dass sich viele verschiedene Dinge sehr schnell zu verändern beginnen.

• Darüber hinaus werden, wie wir in Kapitel 3 diskutieren werden, ausreichend leistungsfähige KIs wahrscheinlich eigene Ziele haben. Wären KIs im Wesentlichen nur schnellere und intelligentere Menschen, wäre das an sich schon eine große Sache. Stattdessen werden KIs jedoch eine völlig neue Spezies intelligenten Lebens auf der Erde sein, mit eigenen Zielen, die (wie wir in den Kapiteln 4 und 5 diskutieren werden) wahrscheinlich erheblich von den Zielen der Menschen abweichen werden.

Auf den ersten Blick wäre es überraschend, wenn diese beiden wichtigen Entwicklungen stattfinden könnten, ohne die bestehende Weltordnung auf den Kopf zu stellen. Um an eine "normale" Zukunft zu glauben, muss man offenbar davon ausgehen, dass Maschinenintelligenz die menschliche Intelligenz niemals übertreffen wird. Dies schien nie eine wirklich realistische Option zu sein, und im Jahr 2025 ist es noch viel schwieriger daran zu glauben als 2015 oder 2005.

Die langfristige Zukunft wird ebenfalls seltsam sein.

Wenn man zu weit in die Zukunft blickt, wird das Ergebnis irgendwie seltsam sein. Das 21. Jahrhundert erscheint aus der Perspektive des 19. Jahrhunderts geradezu bizarr, das wiederum aus der Perspektive des 17. Jahrhunderts bizarr erschien. KI beschleunigt diesen Prozess und fügt dem Spielbrett einen ganz neuen Akteur hinzu.

Ein Aspekt der Zukunft, der heute vorhersehbar erscheint, ist, dass technologisch fortgeschrittene Spezies nicht auf unbestimmte Zeit auf ihrem eigenen Planeten bleiben werden. Im Moment ist der Nachthimmel voller Sterne, die nur ihre Energie verbrennen. Aber nichts hindert das Leben daran, die Technologie zu entwickeln, um zu den Sternen zu reisen und diese Energie für einen bestimmten Zweck zu nutzen.

Es gibt zwar einige physikalische Grenzen, wie schnell diese Reisen durchgeführt werden können, aber es scheint keine Grenzen zu geben, die diese Reisen grundsätzlich ausschließen. Nichts hindert uns daran, irgendwann interstellare Sonden zu entwickeln, die hinausfliegen und Ressourcen aus dem Universum gewinnen und diese Ressourcen in blühende Zivilisationen umwandeln können, und mit selbstreplizierenden Sonden noch mehr Regionen des Weltraums zu kolonisieren. Wenn wir uns durch KI ersetzen, hindert nichts diese KI daran, dasselbe zu tun, nur dass die KI "blühende Zivilisationen" durch das ersetzt, was auch immer diese KI als Ziel verfolgt.

So wie sich das Leben auf der Erde noch auf die kargsten und unwirtlichsten Felsen ausbreitete, bis die ganze Welt von Organismen wimmelte, können wir davon ausgehen, dass sich das Leben (oder von Leben gebaute Maschinen) irgendwann auf unbewohnte Teile des Universums ausbreiten wird, bis es genauso seltsam ist, ein lebloses Sonnensystem zu finden, wie es heute seltsam wäre, eine leblose Insel auf der Erde zu finden, auf der es nicht einmal Bakterien gibt.

Derzeit ist der größte Teil der Materie im Universum, wie beispielsweise Sterne, zufällig angeordnet. Aber in einer ausreichend langfristigen Zukunft wird mit ziemlicher Sicherheit der größte Teil der Materie nach einem bestimmten Plan angeordnet sein, d. h. nach den Vorlieben derjenigen Wesen, denen es gelingt, die Sterne zu ernten und wiederzuverwenden.

Selbst wenn sich nichts auf der Erde jemals im Kosmos ausbreitet und selbst wenn die meisten intelligenten Lebewesen, die in fernen Galaxien entstehen, ihren Heimatplaneten nie verlassen, braucht es nur eine einzige Weltraumfahrt betreibende Intelligenz irgendwo im Universum, um den Funken zu entzünden und sich im Universum auszubreiten, zu neuen Sternensystemen zu reisen und die dortigen Ressourcen zu nutzen, um weitere Sonden zu bauen, um sich in noch mehr Sternensystemen auszubreiten, so wie es nur einen einzigen sich selbst replizierenden Mikroorganismus (und ein wenig exponentielles Wachstum) brauchte, um einen leblosen Planeten in eine Welt zu verwandeln, auf der es auf jeder Insel vor Leben wimmelt.

Die Zukunft wird also anders aussehen als die Gegenwart. Tatsächlich können wir davon ausgehen, dass sie radikal anders aussehen wird. Die Sterne selbst werden sich langfristig vorhersehbar verändern, durch welche biologischen Spezies oder KIs auch immer, die nach mehr Ressourcen suchen, auch wenn wir heute noch nicht viel darüber sagen können, wie diese Spezies aussehen könnte oder wofür die Ressourcen des Universums letztendlich genutzt werden könnten.

Die Details vorherzusagen, scheint schwierig, ja fast unmöglich zu sein. Das ist eine unsichere Vorhersage. Aber die Verwandlung des Universums in einen Ort vorherzusagen, an dem der größte Teil der Materie geerntet und für irgendeinen Zweck genutzt wird, was auch immer das sein mag? Das ist eine sicherere Vorhersage, auch wenn es für eine Zivilisation, die gerade erst begonnen hat, Ressourcen aus Sternen zu gewinnen, kontraintuitiv und seltsam ist.

Wir sollten nicht erwarten, dass die Zukunft in einer Million Jahren so aussieht wie das Jahr 2025, mit einer Gruppe haarloser Affen, die auf der Erdoberfläche herumalbern. Lange vorher werden wir uns entweder selbst ausgelöscht haben oder unsere Nachkommen werden selbst aufgebrochen sein, um den Kosmos zu erforschen.^*

Für die Menschheit wird es auf jeden Fall seltsam werden. Die Frage ist nur, wann.

Die Zukunft wird uns schnell einholen.

Technologien wie KI bedeuten, dass die Zukunft bald an unsere Tür klopfen könnte und ihre Auswirkungen uns hart treffen könnten.

Die industrielle Revolution hat die Welt nach den Maßstäben der vormodernen Geschichte sehr schnell verändert. Der Homo sapiens hat die Welt nach den Maßstäben der Evolutionsprozesse sehr schnell umgestaltet. Das Leben hat die Welt nach den Maßstäben der kosmologischen und geologischen Prozesse sehr schnell umgestaltet. Neue Prozesse zur Veränderung der Welt können die Welt nach den alten Maßstäben sehr schnell umgestalten.

Die Menschheit scheint vor einer weiteren radikalen Transformation zu stehen, in der Maschinen beginnen können, die Welt mit Maschinengeschwindigkeit umzugestalten, die die biologische Geschwindigkeit bei weitem übertrifft. In den Kapiteln 1 und 6 werden wir näher darauf eingehen, inwieweit maschinelle Intelligenz mit menschlicher Intelligenz mithalten oder sie sogar übertreffen kann. Aber zumindest müssen wir die Möglichkeit ernst nehmen, dass die Entwicklung von Maschinen, die intelligenter sind als Menschen, die Welt in hohem Tempo radikal verändern könnte. So etwas ist im Laufe der Zeit immer wieder vorgekommen.

Notes