Wahrscheinlich nicht.

KIs müssen nicht menschenähnlich sein, um Probleme hervorragend lösen zu können. Sie müssen nicht einmal menschenähnlich sein, um das Problem "Menschen imitieren" hervorragend lösen zu können.

Wenn eine KI darauf trainiert wurde, Menschen so gut wie möglich nachzuahmen, ist es verlockender, die KI zu vermenschlichen. Aber es wäre kein bisschen weniger falsch.

Es wäre töricht zu sagen: "Diese LLM kann Menschen hervorragend imitieren, also werde ich ihr alle möglichen menschlichen Eigenschaften zuschreiben, einschließlich der Eigenschaft, Wünsche zu haben."

Es gibt jedoch einen doppelten Fehler, den wir als "Mechanomorphismus" bezeichnen könnten, also den Irrtum, anzunehmen, dass KI, da sie aus mechanischen Teilen besteht, alle stereotypen Einschränkungen von Maschinen haben muss. Dies ist der Fehler, der dahintersteckt, wenn man annimmt, dass KI starr und unflexibel sein muss, oder kalt und fantasielos, oder gedankenlos und unreflektiert.

Um das Verhalten von KI vorherzusagen, sollten wir uns nicht vorstellen, dass KI durch menschliche Emotionen motiviert oder durch menschliche Ziele für die Zukunft angetrieben wird. Wir sollten aber auch nicht davon ausgehen, dass KI wie außer Kontrolle geratene Rasenmäher blind und "automatisch" in ihrem Verhalten ist. KI kann eine Maschine sein und dennoch flexibel, anpassungsfähig und strategisch handeln.

Mit anderen Worten: Künstliche Intelligenz kann wirklich intelligent sein, anstatt die stereotypen blinden Flecken eines bösen Hollywood-Roboters zu haben.

KI ist heute noch recht begrenzt, hat sich aber in den letzten Jahren rasant verbessert. Irgendwann sollten wir davon ausgehen, dass KI "wirklich intelligent" sein wird, auch wenn heute noch einige wichtige Teile fehlen. Und wenn wir versuchen, vorherzusagen, wie eine solche KI aussehen würde, sollten wir nicht die Heuristik "sie wird wie ein Mensch sein" oder die Heuristik "sie wird wie normale Maschinen sein" verwenden. Wie in dem Buch diskutiert, ist es besser, über leistungsfähige KI nachzudenken, indem man fragt:

Welches Verhalten ist erforderlich, damit die KI erfolgreich ist?

Wenn Sie gegen ein leistungsfähiges Schachprogramm spielen, ist der beste Weg, den nächsten Zug der KI vorherzusagen, nicht, sie sich als menschlichen Gegner vorzustellen, und auch nicht, sie sich als gedankenlosen Automaten vorzustellen. Es ist vielmehr die Frage: "Welche Art von Zug würde die KI am ehesten zum Sieg führen?"

Das Ziel von KI-Forschern ist es, eine KI zu entwickeln, die wie die besten Schachprogramme ist, aber versucht, bei komplexen und vielfältigen Aufgaben in der realen Welt zu "gewinnen".

Und der Grund, warum solche KI sich so verhalten, als hätten sie Wünsche, ist nicht, dass sie wie Menschen sind und Menschen Wünsche haben.

Es ist vielmehr so, dass ein solches Verhalten beim Gewinnen hilft.