Werden KI nicht zwangsläufig kalt und logisch sein oder ihnen sonst etwas Entscheidendes fehlen?
Nein.
Nur weil KI auf Computern läuft, bedeutet das nicht, dass ihr Denken die Eigenschaften haben muss, die wir mit Computern assoziieren, genauso wenig wie Ihr Denken die Eigenschaften haben muss, die mit Biologie, Chemie und Neurotransmittern assoziiert werden.
Als die Menschen die Biochemie noch nicht verstanden, schrieben sie die Lebendigkeit des Lebens einer nicht reproduzierbaren "Lebensessenz" zu. Aber die Realität besteht nicht aus alltäglichen Materialien, die manchmal von einer magischen Lebenskraft belebt werden. Das Leben besteht aus alltäglichen Teilen.
Wir wollen jedoch die Intelligenz nicht herabsetzen, wenn wir sagen, dass sie aus alltäglichen Teilen besteht und dass Maschinen die gleiche Arbeit leisten könnten. Siehe unsere ausführliche Diskussion über Vitalismus.
Die Heuristik "Maschinen können nicht mit Menschen konkurrieren" war falsch, als Kasparov voraussagte, dass eine Maschine ohne menschliche Kreativität ihn niemals im Schach schlagen könnte; sie war falsch, als die Menschen dachten, dass KI niemals schöne Bilder zeichnen könnte; sie war falsch, als die Menschen dachten, dass KI niemals gesprächig sein könnte. Das menschliche Gehirn ist ein Beweis dafür, dass physische Materie tatsächlich höhere Formen der Intelligenz hervorbringen kann, die für den Betrieb einer technologischen Zivilisation ausreichen; und es ist äußerst unwahrscheinlich, dass das menschliche Gehirn die einzige Möglichkeit ist, diese Arbeit zu leisten.
Wir werden diesen Punkt in einer der Online-Ergänzungen zu Kapitel 3: Anthropomorphismus und Mechanomorphismus näher ausführen.
KIs sind neue, interessante, seltsame Wesen.
Flugzeuge fliegen, aber sie schlagen nicht mit den Flügeln. Roboterarme funktionieren ohne weiche Haut oder rotes Blut. Transistoren arbeiten ganz anders als Neuronen, und DeepBlue spielte Weltklasse-Schach, ohne die Gedanken, die Garry Kasparov durch den Kopf gingen. Das ist der übliche Verlauf der Technologie.
Wenn wir Flug oder das Spielen von Spielen nicht gut verstehen, stellen wir uns manchmal vor, dass der Ansatz der Biologie der einzig mögliche Ansatz ist, der funktionieren kann. Sobald wir ein Gebiet etwas besser verstehen, stellt sich heraus, dass dies völlig falsch ist.
Die Steuerung eines Schachbretts erfolgte bei DeepBlue ganz anders als bei Kasparov, und die Steuerung der Welt insgesamt wird mit ziemlicher Sicherheit einem ähnlichen Muster folgen. Wie in Kapitel 2 erläutert, scheint KI ihre Arbeit bereits auf eine ganz andere Weise zu erledigen als Menschen, auch wenn dies vielleicht etwas schwieriger zu erkennen ist, wenn sie ihre Intelligenz nutzt, um Menschen nachzuahmen! In Kapitel 4 werden wir untersuchen, wie diese Unterschiede wahrscheinlich zu seltsamen Situationen mit schwerwiegenden Folgen führen können.