Aber was ist mit den Vorteilen einer KI, die intelligenter ist als der Mensch?
Ein überstürztes Vorgehen zerstört diese Vorteile.
Wir sind optimistisch, wie wunderbar Superintelligenz sein könnte, wenn sie die Welt zu wunderbaren Zielen führen würde. Wir persönlich würden es als große Tragödie betrachten, wenn die Menschheit niemals intelligentere Köpfe als den Menschen hervorbringen würde.
Aber das Alignment von Superintelligenz ist nicht kostenlos. Wenn wir uns beeilen, um diese Vorteile zu nutzen, bekommen wir nichts und sogar weniger als nichts.
Ich (Yudkowsky) habe selbst mehrere Jahre als Akzelerationist verbracht, in der Hoffnung, KI so schnell wie möglich zu schaffen, bevor ich erkannte, dass das Alignment der KI ihren Preis hat. Und wir beide Autoren träumen von einer wunderbaren transhumanistischen Zukunft. Aber wir erreichen sie nicht, indem wir mit Superintelligenz vorpreschen.
Die Wahl besteht nicht darin, entweder jetzt auf die Vorteile der KI zu setzen (egal wie gering die Chance auch sein mag) oder niemals Zugang zu diesen Vorteilen zu erhalten. Die wahre Wahl besteht darin, entweder rücksichtslos voranzustürmen und alle zu töten oder sich die Zeit zu nehmen, die Arbeit ordentlich zu erledigen.*
"Jetzt oder nie" ist eine falsche Dichotomie.
* Einige Leute argumentieren, dass wir jetzt das Risiko eingehen müssen, um sterbende Menschen vor ihrem natürlichen Tod durch Alterung zu retten. Der menschliche Körper ist unglaublich komplex, aber mit ausreichendem wissenschaftlichen Fortschritt könnten wir viele der Krankheiten heilen, die wir heute als selbstverständlich ansehen, wie Krebs, Herzkrankheiten und die verschiedenen Alterskrankheiten. Eine KI, die intelligenter ist als der Mensch, könnte uns viel schneller ans Ziel bringen. Eine Verzögerung der Superintelligenz kostet buchstäblich Menschenleben.
Oder besser gesagt, sie würde Menschenleben kosten, wenn nicht die Tatsache wäre, dass Superintelligenz genau dieselben Menschen tötet.
Tatsächlich haben kranke und sterbende Menschen heute sehr wahrscheinlich bessere Überlebenschancen, wenn die Menschheit sich vom Abgrund zurückzieht:
- Die biomedizinische Forschung und die Suche nach Behandlungsmethoden und Heilmitteln können auch ohne Superintelligenz voranschreiten. Gentherapie, Krebsimpfstoffe und andere neue Ansätze sind äußerst vielversprechend, und die Forscher stehen erst am Anfang ihrer Erforschung.
- Eng fokussierte KI-Technologie kann sogar dazu beitragen, diese Bemühungen zu beschleunigen, ohne dass die gesamte Menschheit durch die Entwicklung einer allgemeineren KI, die intelligenter ist als der Mensch, gefährdet werden muss.
- Mit Methoden zur Erhaltung des Gehirns können Menschen auch nach dem Herzstillstand am Leben erhalten werden, bis die Medizin so weit fortgeschritten ist, dass sie wiederbelebt und ihre Gesundheit wiederhergestellt werden kann. Die Art von KI, die Unsterblichkeit bieten könnte, könnte mit ziemlicher Sicherheit auch jemanden mit einem entsprechend konservierten Gehirn wiederherstellen.
(Etwas zurückhaltender wird Ihnen ein Teil dieser Menschen sagen, dass sie es für ihre eigene Unsterblichkeit tun und dass sie bereit sind, das Leben jedes Erwachsenen und jedes Kindes auf dem Planeten zu riskieren, selbst für eine kleine Chance, dass sie und ihre Lieben dies erreichen können. Das erscheint uns wie eine bösartige Schurkerei. Diesen Bösewichten geben wir denselben Rat wie den Altruisten: Melden Sie sich für die Konservierung Ihres Gehirns an. Das gibt Ihnen bessere Chancen als eine skrupellose Superintelligenz, und Sie vermeiden es außerdem, alle Menschen auf der Suche nach Unsterblichkeit in große Gefahr zu bringen! Eine Win-win-Situation.)
Selbst wenn wir uns nur um das Wohlergehen der Kranken und Sterbenden kümmern würden, scheint es besser zu sein, auf eine Kombination dieser Methoden zu setzen, als auf die Entwicklung einer weit übermenschlichen KI zu setzen und zu hoffen, dass sie uns mag. (Und dass sie uns auf genau die richtige Weise mag.) Die Chancen für eine übermenschliche KI stehen dramatisch schlecht für uns.
Aber auch: Nach unserem besten Wissen hat niemand die Kranken und Sterbenden tatsächlich gefragt, ob sie ihre Familien und Landsleute in große Gefahr bringen wollen, um auf eine mögliche Heilung durch Superintelligenz zu setzen. Und die betroffenen Familien und Landsleute wurden sicherlich nicht gefragt, ob sie damit einverstanden sind, dass ihr Leben für dieses verrückte wissenschaftliche Experiment aufs Spiel gesetzt wird.
Wir müssen nicht unser ganzes Leben auf diese Option setzen, wenn es viele andere Optionen gibt.
Wir bitten alle, denen das Wohlergehen der Menschen heute am Herzen liegt, stattdessen die oben genannten Methoden voranzutreiben und gleichzeitig alles zu vermeiden, was uns auch nur ein kleines Stückchen näher an künstliche Superintelligenz bringen könnte.
Wenn Sie einfach nicht glauben, dass eine bösartige Superintelligenz uns töten würde, ist das eine Sache. Aber zu akzeptieren, dass sie uns wahrscheinlich alle töten würde, und zu sagen, dass wir das Risiko trotzdem eingehen müssen, ist Wahnsinn. Es gibt andere Möglichkeiten, die Probleme der modernen Welt zu lösen. Analog dazu: Wenn Ihnen das Leben in großer Höhe unangenehm ist, ist das kein Grund, sich von einer Klippe zu stürzen. Suchen Sie sich einen anderen Weg zum Fuß des Berges.