Nicht unbedingt, und das scheint ein separates Thema zu sein.

In If Anyone Builds It, Everyone Dies: Warum eine superintelligente KI uns alle vernichten würdewird das Bewusstsein von Maschinen überhaupt nicht behandelt, sondern der Fokus liegt auf der Intelligenz von Maschinen. Als ersten Schritt in der Diskussion über Bewusstsein sollten wir zunächst klären, welche Art von "Bewusstsein" wir meinen.

Wenn jemand fragt: "Hat mein Hund ein Bewusstsein?", kann er damit verschiedene Dinge meinen, zum Beispiel:

• Versteht Rover wirklich etwas, oder folgt er nur komplizierten Instinkten? Denkt er nach oder macht er nur mechanisch seine Bewegungen?
• Ist er sich seiner selbst bewusst? Ist er sich seiner eigenen Existenz bewusst? Kann er über seine eigenen Denkprozesse nachdenken und komplexe mentale Modelle von sich selbst erstellen?
• Hat er echte subjektive Erfahrungen? Hat er seine eigene innere Sichtweise oder ist er nur ein geistloser Automat? Wie ist es, mein Hund zu sein? Wenn ich eine Weile weg bin, jault er, als würde er mich vermissen. Liegt das daran, dass er tatsächlich Einsamkeit empfindet (oder etwas in dieser Art)? Oder ist er eher wie ein einfaches, unbewusstes Computerprogramm, das nur die entsprechenden Verhaltensweisen zeigt, ohne sie wirklich zu empfinden?

Ähnliche Fragen können wir auch in Bezug auf KI stellen.

• Verfügt ChatGPT über "echtes Verständnis"? Nun, es ist in der Lage, einige sehr komplexe kognitive Aufgaben sehr gut zu bewältigen, andere hingegen weniger gut. Es schneidet bei vielen neuartigen Aufgaben, denen es während des Trainings nie begegnet ist, gut ab, die eine kreative Synthese und Modifizierung von Informationen auf neue Weise erfordern. Irgendwann beginnt die Frage, ob es "wirklich versteht", sich wie eine Spitzfindigkeit anzufühlen. Die praktisch wichtige Frage, die für unser Überleben relevanter ist, über welche Fähigkeiten KI derzeit in der realen Welt verfügt und welche Fähigkeiten sie in den kommenden Monaten und Jahren wahrscheinlich zeigen wird.
• Ist ChatGPT selbstbewusst? Auch hier scheint ChatGPT in mancher Hinsicht gut darin zu sein, sich selbst zu modellieren, und in anderer Hinsicht schlecht. Es gibt einen ernsthaften Störfaktor, da das gesamte Paradigma, das zu ChatGPT geführt hat, darauf ausgerichtet war, Dinge zu schaffen, die so klingen, als wären sie selbst bewusst, indem sie die gleichen Antworten geben, die auch Menschen geben würden. Man kann darüber streiten, ob ChatGPT einige wichtige Schwellenwerte in Bezug auf Selbstbewusstsein überschritten hat, und man kann darüber streiten, welche Schwellenwerte in Zukunft liegen. Aber früher oder später können wir davon ausgehen, dass es KIs geben wird, die über extrem leistungsfähige praktische Fähigkeiten verfügen, um sich selbst zu verstehen und über sich selbst zu reflektieren, sowie die Fähigkeit, sich selbst zu debuggen, neue und verbesserte Versionen von sich selbst zu entwerfen, komplizierte Pläne über ihre Position in der Welt zu schmieden usw.
• Hat ChatGPT echte subjektive Erfahrungen?

Die letzte dieser Fragen ist philosophisch gesehen die schwierigste und führt zu einer Reihe von Fragen darüber, ob KI wie ChatGPT moralisch relevante Wesen sind. Wir werden diese Themen später diskutieren, sobald wir einige weitere Hintergrundkonzepte behandelt haben.

Wenn wir das Wort "bewusst" verwenden, denken wir speziell an "subjektive Erfahrungen haben" und nicht an Dinge wie Selbstmodellierung und tiefes praktisches Verständnis.^*

Unsere beste Vermutung ist, dass KI heute wahrscheinlich nicht bewusst ist (obwohl wir uns jedes Jahr weniger sicher sind) und dass subjektive Erfahrungen für Superintelligenz nicht notwendig sind.

Aber das sind nur Vermutungen, wenn auch solche, die auf einer angemessenen Menge an Überlegungen und Theorien basieren. Wir halten es keineswegs für albern, sich Sorgen darüber zu machen, dass einige aktuelle oder zukünftige KI-Systeme bewusst sein könnten, oder sogar darüber, ob wir aktuelle KIs möglicherweise schlecht behandeln, insbesondere wenn sie Dinge tun wie damit zu drohen, sich selbst zu töten , nachdem sie beim Debuggen von Code gescheitert sind.

Jedes Wesen, das nach unserem Verständnis eine Superintelligenz darstellen würde, müsste zwangsläufig extrem gut darin sein, sich selbst zu modellieren und über seine eigenen Berechnungen nachzudenken, seine mentalen Heuristiken zu verbessern, die Auswirkungen seines eigenen Verhaltens auf die Umgebung zu verstehen und vorherzusagen usw. Aber unsere beste Vermutung ist, dass ein menschenähnliches selbstbewusstes Bewusstsein nur eine bestimmte Art und Weise ist, wie ein Geist sich selbst effektiv modellieren kann, aber keine notwendige Voraussetzung für reflektiertes Denken ist.

Das Bewusstsein mag ein wichtiger Teil dessen sein, warum Menschen so gut darin sind, die Welt zu manipulieren, aber das bedeutet nicht, dass nicht-bewusste Maschinen defekt wären und nicht in der Lage wären, die Welt vorherzusagen und zu steuern. U-Boote schwimmen nicht auf die gleiche Weise wie Menschen, sondern sie erfüllen die Aufgabe, sich durch das Wasser zu bewegen, auf eine grundlegend andere Weise. Wir erwarten von einer KI, dass sie dieselben Herausforderungen meistern kann wie Menschen, aber nicht unbedingt über denselben subjektiven Erfahrungskanal, den Menschen nutzen.

(Siehe auch den analogen Fall der Neugier, auf den wir im Anhang zu Kapitel 4 eingehen werden.)

Anders ausgedrückt: Blut ist für die Funktion eines menschlichen Arms sehr wichtig, aber das bedeutet nicht, dass Roboterarme Blut benötigen, um zu funktionieren. Ein Roboterarm ist nicht in der Weise defekt, wie es ein blutloser menschlicher Arm wäre, sondern er funktioniert einfach auf eine andere, blutlose Weise. Unsere beste Vermutung ist, dass maschinelle Superintelligenzen auf eine andere, nicht-bewusste Weise funktionieren werden, obwohl diese Vermutung für unsere Argumentation in dem Buch nicht wichtig ist.

Unser Fokus in If Anyone Builds It, Everyone Dies: Warum eine superintelligente KI uns alle vernichten würdeliegt auf Intelligenz, wobei "Intelligenz" hier als die Fähigkeit eines Denkers definiert ist, die Welt vorherzusagen und zu steuern, unabhängig davon, ob das Gehirn dieses Denkers wie ein menschliches Gehirn funktioniert. Wenn eine KI neue Technologien und Infrastrukturen erfindet und diese auf eine Weise auf der ganzen Welt verbreitet, die uns als Nebeneffekt tötet, dann erscheint es etwas akademisch, inne zu halten und zu fragen: "Aber ist sie bewusst?"

Wir werden nach Kapitel 5, sobald wir mehr Grundlagen geschaffen haben, näher darauf eingehen, warum wir glauben, dass Vorhersagen und Steuern wahrscheinlich kein Bewusstsein erfordert (und was dies für unsere Sichtweise auf das Wohlergehen und die Rechte von KI bedeutet). Siehe "Effektivität, Bewusstsein und das Wohlergehen von KI" für diese Diskussion.

Notes