Das scheint unwahrscheinlich und nicht besonders relevant zu sein.

Das menschliche Gehirn und der menschliche Körper bestehen aus Teilen, die wir untersuchen und verstehen können. Es gibt vieles, was wir über das Gehirn nicht verstehen, aber das bedeutet nicht, dass die Teile, die wir nicht verstehen, auf Magie beruhen und dass Menschen niemals etwas Ähnliches bauen könnten. Es bedeutet lediglich, dass Gehirne enorm komplizierte Maschinen sind. Das menschliche Gehirn hat Hunderte von Billionen Synapsen, und wir haben noch einen langen Weg vor uns, um alle wichtigen übergeordneten Prinzipien zu verstehen, die dabei eine Rolle spielen.

Auch Intelligenz besteht aus Teilen, wie Algorithmen und einzelnen Berechnungen, die unser Gehirn auf natürliche Weise durchführt, auch wenn wir kein wissenschaftliches Verständnis davon haben, wie unser eigenes Gehirn funktioniert.

Selbst wenn es einen Aspekt des biologischen Denkens gäbe, der in Maschinen nur sehr schwer zu implementieren wäre, würde daraus nicht folgen, dass KI niemals die Menschheit übertreffen wird. KIs könnten einfach die gleiche Art von Arbeit auf eine andere Weise erledigen, so wie die KI Deep Blue auf ganz andere Weise als Garry Kasparov gewinnbringende Schachzüge gefunden hat.^* Es kommt nicht darauf an, ob Maschinen alle einzigartigen Eigenschaften des Menschen besitzen, sondern darauf, ob Maschinen in der Lage sind, die Welt vorherzusagen und zu steuern.

Die folgenden Kapitel werden mehr Licht auf diesen Punkt werfen. In Kapitel 2 werden wir uns damit befassen, wie moderne KI eher gezüchtet als konstruiert wird und wie der Züchtungsprozess dazu führt, dass KI sehr leistungsfähig wird. In Kapitel 3 werden wir dann darauf eingehen, wie Versuche, KI immer leistungsfähiger zu machen, dazu führen, dass KI immer mehr darauf ausgerichtet ist, schwierige Ziele zu erreichen. Und in Kapitel 4, werden wir diskutieren, warum diese Ziele wahrscheinlich weder die Ziele sind, die die Entwickler beabsichtigt haben, noch die Ziele, die die Nutzer gefordert haben. All dies reicht aus, um KI dazu zu bringen, die Welt in den Ruin zu treiben, unabhängig davon, ob man KI einen gewissen Lebensfunken, ein Bewusstsein oder irgendetwas anderes zuschreibt, von dem man sich vorstellt, es mache den Menschen zu etwas Besonderem.

Siehe auch in den kommenden Online-Ressourcen:

• Kapitel 2: "Ist KI nicht ‚nur Mathematik‘?" und "Werden KI nicht kalt und mechanisch und logisch sein oder ihnen sonst etwas Entscheidendes fehlen?"
• Kapitel 3: "Anthropomorphismus und Mechanomorphismus"
• Kapitel 5: "Effektivität, Bewusstsein und KI-Wohlfahrt"