Weil es plausibel und leicht zu schreiben ist.

Jedes Detail in einer Geschichte über die Zukunft ist eine Möglichkeit, dass diese Geschichte falsch sein könnte. Wir können Ihnen nicht genau sagen, welche technologischen Durchbrüche in welcher Reihenfolge stattfinden werden, genauso wenig wie wir Ihnen das genaue Wetter in einem Monat vorhersagen können.

Geschichten wie diese sollen kein genaues Fenster in die Zukunft sein. Sie sollen veranschaulichen, wie die Zukunft aussehen könnte, und dabei alle abstrakten Argumente zusammenführen, die wir in Teil I des Buches vorgebracht haben. Manche Menschen empfinden die Gefahr als viel realer, wenn sie sich lebhaft einen bestimmten Weg vorstellen, den die Zukunft nehmen könnte und der in einer Katastrophe endet.

Noch überzeugender könnten zehn oder hundert Geschichten sein, die zeigen, wie viele verschiedene Wege zum Untergang führen und wie schmal und fragil die Wege zu einer blühenden Zukunft sind.

Das bedeutet es, wenn ein Aspekt der Zukunft leicht zu erkennen ist: Wenn fast alle Wege zum gleichen Endpunkt führen, ist dieser Endpunkt vorhersehbar. Aber wir hatten weder die Zeit noch den Platz, um zehn Geschichten zu schreiben, geschweige denn hundert.

Für die Geschichte, die wir erzählen wollten, haben wir uns an ein Szenario gehalten, das so bald wie möglich beginnt. Das liegt nicht daran, dass wir glauben, dass eine solche Situation definitiv bald eintreten wird (wir sind unsicher), sondern daran, dass eine Geschichte, die in der Nähe der Gegenwart spielt, viel einfacher zu schreiben ist. Hätten wir sie noch weiter in der Zukunft angesiedelt und uns viel mehr futuristische Details darüber ausgedacht, was zwischen jetzt und dann passiert ist, wäre die Geschichte noch unglaubwürdiger geworden. Und diese Details würden nur ablenken.

Selbst wenn wir irgendwie in der Lage wären, den genauen Verlauf der Zukunft vorherzusehen, wäre dies möglicherweise nicht das beste Szenario, um die allgemeinen Dynamiken zu verstehen, die dabei eine Rolle spielen.

Wir erwarten, dass die wahre Zukunft zutiefst seltsam sein wird, voller chaotischer, zufälliger Details, von denen jedes einzelne die Glaubwürdigkeit einer Geschichte strapazieren würde. Eine so geschriebene Geschichte wäre verwirrend und schwer zu verfolgen, voller unerklärter und unnötiger Details, da die Realität kein Interesse an narrativer Kohärenz hat. Sie würde sich auch weniger plausibel anfühlen, weil viele der Details seltsam wirken würden.

Um einen Eindruck davon zu bekommen, wie sich das anfühlen könnte, stellen Sie sich vor, Sie würden 100 Jahre in der Zeit zurückreisen und versuchen, das tägliche Leben und die großen Probleme der modernen Welt zu beschreiben. Die meisten Menschen im Jahr 1925 hatten noch nie Radio gehört, Auto gefahren oder einen Kühlschrank gesehen. Um soziale Medien, Globalisierung und Fettleibigkeit zu beschreiben, müsste man nicht nur ein reichhaltiges Netz von Technologien erklären, sondern auch die Weltanschauung des Zuhörers radikal verändern. Nein, die Geschichte, die wir erzählen wollen, ist plausibler und daher weniger realistisch.

Es gibt viele andere Möglichkeiten, wie die Zukunft aussehen könnte.

Hier sind nur einige alternative Möglichkeiten, wie eine Geschichte wie diese beginnen könnte:

• Es gibt eine Art Durchbruch im Bereich des lebenslangen Lernens, des Langzeitgedächtnisses oder des effizienteren Lernens aus Daten, der zu KI führt, die qualitativ intelligenter ist als alle bisherigen (genauso wie LLMs qualitativ intelligenter sind als AlphaZero).
• Große Sprachmodelle scheinen "an ihre Grenzen zu stoßen", der Fortschritt der KI stagniert jahrelang, und die Leute sagen, dass die Hype-Blase geplatzt ist. Aber die Forscher tüfteln im Laufe des folgenden Jahrzehnts weiter, bis schließlich ein algorithmischer Durchbruch erzielt wird und die KI qualitativ besser funktioniert als je zuvor.
• Es gibt nie einen qualitativen Durchbruch. Der Fortschritt sammelt sich langsam und schrittweise an, und KI wird immer tiefer in immer mehr Bereiche der Wirtschaft integriert und kann immer längere Zeiträume autonomer Arbeit bewältigen. Die KI verfolgt oft Ziele, die nicht ganz den Absichten oder Wünschen der Menschen entsprechen, aber die Menschheit entwickelt Hacks, Patches und Workarounds. Und das ist meist in Ordnung, bis an einem Dienstag, der wie jeder andere beginnt, die Welt die Schwelle überschreitet, ab der koordinierte KI es schaffen würde, die Menschheit aus dem Kreislauf auszuschließen, wenn sie es versuchen würde.

Jede Vermutung über den genauen Verlauf der Zukunft ist wahrscheinlich falsch. Dennoch ist es nützlich, Geschichten zu erzählen, die zeigen, wie alles zusammenhängen könnte.

Wenn die Zukunft ungewiss ist, aber alle Wege zum gleichen Endpunkt führen, kann es schwierig sein, eine Geschichte zu erzählen, die überzeugend wirkt. Bei jeder Geschichte, die wir erzählen könnten, wäre es leicht, eine Reihe von Details aufzuzeigen, die sie unglaubwürdig machen. In dem von uns geschriebenen Szenario haben wir versucht zu betonen, dass Sable viele Optionen zur Verfügung stehen und dass die Geschichte willkürlich einem von vielen Wegen folgt, die alle zum gleichen Endpunkt führen.

Wenn Sie diese spezielle Geschichte nicht überzeugt, empfehlen wir Ihnen, Ihre eigene, ähnlich detaillierte Geschichte darüber zu schreiben, wie alles abläuft. Unserer Erfahrung nach basieren optimistische Geschichten in der Regel darauf, dass die KI unrealistisch leicht zu beeinflussen ist (im Gegensatz zu den Argumenten, die wir in Kapitel 4 vorbringen) oder unrealistisch machtlos ist (im Gegensatz zu den Argumenten, die wir in Kapitel 6 vorbringen). Letztendlich sind es die Argumente in Teil I, die das Argument stützen, und nicht die Details der Geschichte.