Ja. Es gibt ein reales Phänomen, das beschrieben werden kann, auch wenn es schwer zu fassen ist.

In den letzten dreißig Jahren wurden 77 Nobelpreise für Chemie an Menschen verliehen, aber keiner an Schimpansen. Ein Außerirdischer, der zum ersten Mal davon hört, könnte sich fragen, ob das Nobelkomitee voreingenommen ist. Aber nein, es gibt tatsächlich etwas, das uns Menschen von Schimpansen unterscheidet.

Das ist ein überaus offensichtlicher Punkt, aber auch offensichtliche Punkte können manchmal wichtig sein. Wir verfügen über Fähigkeiten, die es uns ermöglichen, auf dem Mond zu spazieren und die das Schicksal des Planeten in unsere Hände legen und nicht in die Hände von Schimpansen. Philosophen und Wissenschaftler können über die wahre Natur der Intelligenz diskutieren, aber egal, zu welchem Schluss sie kommen, das zugrunde liegende Phänomen bleibt bestehen. Etwas an uns Menschen hat es uns ermöglicht, Leistungen zu vollbringen, die in der Natur noch nie zuvor gesehen wurden, und dieses Etwas hat mit unserem Gehirn zu tun und damit, wie wir es nutzen, um die Welt um uns herum zu verstehen und zu beeinflussen.

Die Tatsache, dass wir keine genaue Definition geben können, bedeutet nicht, dass es uns nicht schaden kann.

Wenn Sie in einen Waldbrand geraten, spielt es keine Rolle, ob Sie die zugrunde liegende Chemie verstehen oder nicht. Sie verbrennen trotzdem.

Das Gleiche gilt für Intelligenz. Wenn Maschinen beginnen, die Oberfläche der Erde in ihre eigene Infrastruktur umzuwandeln und dabei so viel Abwärme erzeugen, dass sie die Ozeane zum Kochen bringen, dann spielt es keine Rolle, ob wir bereits eine genaue Definition von "Intelligenz" haben. Wir würden trotzdem sterben.

Wir meinen das wörtlich, und in den folgenden Kapiteln werden wir untersuchen, warum wir solche extremen Folgen von einer KI erwarten, die intelligenter ist als der Mensch. In Kapitel 3 werden wir argumentieren, dass superintelligente Maschinen Ziele verfolgen würden. In Kapitel 4 werden wir argumentieren, dass diese Ziele nicht das wären, was Menschen beabsichtigen oder verlangen würden. In Kapitel 5 argumentieren wir, dass sie ihre Ziele besser erreichen könnten, wenn sie uns die Ressourcen wegnehmen würden, die wir zum Überleben brauchen. Und in Kapitel 6 argumentieren wir, dass sie in der Lage wären, ihre eigene Infrastruktur zu entwickeln und die Welt schnell unbewohnbar zu machen.

Man braucht keine genaue Definition von Intelligenz, um Intelligenz zu erzeugen.

Die Menschen waren in der Lage, Feuer zu erzeugen, bevor sie die zugrunde liegende Chemie der Verbrennung verstanden hatten. In ähnlicher Weise sind die Menschen auf dem besten Weg, intelligente Maschinen zu schaffen, obwohl sie diese nicht verstehen, wie wir in Kapitel 2 behandeln werden.

Anstatt Intelligenz als einen mathematischen Begriff zu betrachten, der einer genauen Definition bedarf, empfehlen wir, "Intelligenz" als Bezeichnung für ein beobachtetes Naturphänomen zu betrachten, das wir noch nicht gut verstehen.

Etwas am menschlichen Gehirn ermöglicht es uns, eine erstaunliche Vielfalt an Leistungen zu vollbringen. Wir bauen Teilchenbeschleuniger, wir entwickeln neue Medikamente, wir erfinden die Landwirtschaft, wir schreiben Romane, wir führen militärische Kampagnen durch. Irgendetwas daran, wie das menschliche Gehirn funktioniert, führt dazu, dass wir all diese Dinge tun können, während Mäuse und Schimpansen nichts davon tun können. Auch wenn wir diesen mentalen Unterschied wissenschaftlich noch nicht vollständig verstehen, ist es nützlich, eine Bezeichnung dafür zu haben.

Ebenso ist es nützlich, über Intelligenz sprechen zu können, die unsere eigene übertrifft. Wir können bereits heute KI beobachten, die in einer Vielzahl von engen Bereichen übermenschlich ist. Moderne Schach-KI ist beispielsweise im Bereich Schach übermenschlich. Da liegt die Frage nahe, was passieren wird, wenn wir KI entwickeln, die bei wissenschaftlichen Entdeckungen, technologischer Entwicklung, sozialer Manipulation oder strategischer Planung übermenschlich ist. Und es ist nur natürlich zu fragen, was passieren wird, wenn wir KI entwickeln, die den Menschen in allen Bereichen übertrifft.

Wenn und sobald eine KI auftaucht, die wissenschaftliche Forschung auf Weltklasse-Niveau tausendmal schneller betreiben kann als die besten menschlichen Wissenschaftler, könnten wir protestieren, dass sie "nicht wirklich intelligent" ist, vielleicht weil sie auf ganz anderem Weg zu Schlussfolgerungen kommt als ein Mensch. Das könnte sogar stimmen, je nachdem, welche Definition von "Intelligenz" man wählt. Aber die Auswirkungen der KI auf die reale Welt werden enorm sein, welchen Begriff auch immer wir dafür verwenden.

Wir brauchen eine Terminologie, um über diese Art von Auswirkungen zu sprechen und um über die Arten von Maschinen zu sprechen, die grundlegend dazu in der Lage sind, die Welt vorherzusagen und zu steuern. In diesem Buch gehen wir den einfachen Weg und weisen diesen Fähigkeiten das Label "Intelligenz" zu, anstatt den spezifischen internen Prozessen, die diese Fähigkeiten hervorbringen.