Mit mehr Technologie würden wir wahrscheinlich noch weniger Kopien unserer Gene erstellen.

Menschen wetteifern viel mehr um prestigeträchtige Beförderungen und Zulassungen zu Eliteuniversitäten als um die Möglichkeit, Sperma oder Eizellen zu spenden.

Samen- und Eizellenbanken bezahlen die Spender für ihre Mühen, nicht umgekehrt.

Die meisten Tyrannen in der Geschichte haben nicht einmal versucht, ihre Macht zu nutzen, um Tausende von Kindern zu zeugen. Und die tatsächlichen Geburtenraten in der heutigen Welt sinken.

Viele Menschen legen Wert darauf, Kinder zu haben, viele andere jedoch nicht, und es ist äußerst selten, dass jemand versucht, die Anzahl seiner Nachkommen zu maximieren (z. B. indem er so oft wie möglich Spermabanken in Anspruch nimmt). Stattdessen wetteifern Menschen meist um Dinge wie Sex, Ruhm und Macht, die bestenfalls ungenaue Indikatoren für die Fortpflanzungsfähigkeit sind.

Dennoch könnte man dieses Bild betrachten und sagen: Nun, die Menschen haben sich letztendlich doch ein wenig um Kinder gekümmert, auch wenn diese Sorge nicht maximal war. Vielleicht werden sich KI-Systeme ein wenig um uns kümmern und uns eine Art Knochen zuwerfen, anstatt uns alle zu töten.

Ein Problem dieser Hoffnung ist, dass die Stellvertreter-Ziele, die uns wichtig sind, sich in jüngster Zeit (auf evolutionärer Zeitskala) von der tatsächlichen Fortpflanzungsfähigkeit gelöst haben und sich in Zukunft wahrscheinlich noch weiter voneinander entfernen werden, da die Menschen immer neue technologische Wege finden, um ihre Wünsche zu befriedigen.

Ein Beispiel: Unser Kinderwunsch ist nicht unbedingt mit dem Wunsch nach genetischer Fortpflanzung verbunden. Nehmen wir an, dass in Zukunft eine Technologie entwickelt wird, die die gesamte DNA in den Zellen eines Menschen durch eine andere molekulare Maschinerie ersetzt, die den Menschen immun gegen alle Krankheiten macht und seine gesunde Lebensdauer verlängert.

(Nehmen wir außerdem an, dass diese Technologie die Persönlichkeit des Menschen nicht verändert und keine anderen schädlichen Nebenwirkungen hat, sodass die vielen Menschen, die berechtigte Bedenken hinsichtlich der Sicherheit neuer Technologien haben, beruhigt sind.)

Wir gehen davon aus, dass viele Eltern begeistert wären, wenn sie hören würden, dass ihre Kinder diese Behandlung erhalten haben. Vielleicht gäbe es anfangs einige wenige, die sich dagegen sträuben würden, aber wir gehen davon aus, dass diese Technologie, wenn sie sich als wirksam erwiesen hätte und wenn sie billig und zuverlässig geworden wäre, schließlich allgegenwärtig geworden wäre. Das offenbart uns, was wir sind: Menschen, die gerne Kinder haben, Familien haben, Spaß haben und nicht Menschen, die gerne unsere DNA weitergeben.

Es scheint uns, dass die meisten Menschen sich im Grunde genommen überhaupt nicht für genetische Fitness interessieren. Wir interessieren uns für Stellvertreter-Ziele wie Freundschaft, Liebe, Familie und Kinder. Vielleicht ist es uns sogar wichtig, einige unserer Eigenschaften an die nächste Generation weiterzugeben. Aber speziell Gene?

Jedes Mal, wenn die Menschheit eine Technologie erschlossen hat, die es uns ermöglicht, mehr von dem zu bekommen, was wir mögen, wie leckeres Essen oder Sex ohne Fortpflanzung, hat die Menschheit das Angebot angenommen. Wir sind technologisch noch nicht so weit fortgeschritten, dass wir Genome gegen ein längeres und gesünderes Leben eintauschen können. Aber solche Dinge scheinen physikalisch möglich zu sein,^*und daher sieht es für die natürliche Selektion auf lange Sicht nicht gut aus.

Wenn KI sich am Ende um Güte, Freundlichkeit und Freundschaftlichkeit kümmert, so wie sich die Menschheit um genetische Fitness kümmert, dann ist zu erwarten, dass KI irgendwann Dinge erfinden wird, die für "Freundlichkeit" das sind, was Geburtenkontrolle und DNA-lose Kinder für genetische Fitness sind, nämlich dass sie Dinge anstreben wird, die nur ein sinnloser Schatten dessen sind, was Menschen sich wünschen oder beabsichtigen würden.

Es wäre nicht gut, wenn KI sich ein wenig um Menschen kümmern würde.

Auch wenn die meisten Menschen sich offenbar mehr um ihre Kinder und ihre Familie kümmern als um die Weitergabe ihrer Gene an sich, gibt es zweifellos einige Menschen, die darauf bestehen, dass ihnen ihre Gene zumindest ein wenig am Herzen liegen. Wir sind etwas skeptisch gegenüber einigen dieser Behauptungen. Zum Beispiel tun vielleicht einige Menschen in der modernen Welt, die versuchen, ihre Gene so weit wie möglich weiterzugeben, dies aus einem Gefühl heraus, die Konkurrenz zu schlagen, und vielleicht würden solche Menschen stattdessen darum konkurrieren, wie viele DNA-freie Kinder sie haben könnten, wenn DNA-freie Kinder jemals allgegenwärtig würden. Aber vielleicht sind andere solche Behauptungen wahr. Vielleicht gibt es wirklich eine Handvoll Menschen, denen die Vermehrung ihrer Gene zumindest ein wenig am Herzen liegt. Schließlich haben Menschen alle möglichen Vorlieben!

Könnte das nicht auch für KI gelten? Wenn es viele seltsame und vielfältige KIs gibt, könnte es dann nicht sein, dass zumindest einige von ihnen sich zumindest ein wenig um Menschen kümmern?

Das könnte sein. Leider gehen wir davon aus, dass dies für die Menschheit ebenfalls größtenteils nicht gut ausgehen würde. Dieses Thema werden wir nach Kapitel 5 ernsthaft aufgreifen, wobei die Hauptdiskussion darum gehen wird, ob KI sich am Ende zumindest ein wenig um uns kümmern könnte.

Bevor wir jedoch dazu kommen, lassen Sie uns einen Moment zurücktreten. Stellen Sie sich vor, dass moderne Methoden es nicht schaffen, dass sich KI sehr für uns interessiert, wir aber hoffen, dass, wenn wir viele KIs entwickeln, sich ein kleiner Teil davon zumindest ein wenig für uns interessiert, wenn auch nur zufällig. Die Idee dahinter ist, dass, wenn wir heute KI entwickeln, ihr bevorzugtes Ergebnis darin besteht, sich fast alle Ressourcen im Universum anzueignen und sie für etwas Sinnloses auszugeben, während vielleicht ein paar Menschen in einem kleinen Menschenreservat zurückbleiben.

Wenn die Menschheit vorprescht und das Risiko eingeht, sich auf Superintelligenz einzulassen, dann erwarten wir ein weitaus schlechteres Ergebnis. Aber selbst wenn wir Grund zu der Annahme hätten, dass sich KI ein wenig um uns kümmern würde, erscheint uns dies immer noch als ein sehr schlechter Plan. Diese Spekulation scheint also nicht nur falsch, sondern auch irrelevant zu sein.