Der glorreiche Zufall der Güte

Wenn Sie sehen, wie jemand sich einen Stein auf den Zeh fallen lässt, zucken Sie vielleicht zusammen und spüren (oder stellen sich vor), wie ein Phantomschmerz in Ihrem eigenen Zeh aufsteigt. Warum?

Eine Vermutung ist, dass unsere hominiden Vorfahren, die miteinander konkurrierten und sich in Stammespolitik engagierten, es nützlich fanden, mentale Modelle der Gedanken und Erfahrungen der Hominiden um sie herum zu erstellen, mit denen sie herausfinden konnten, wer ihr Freund war und wer sie verraten würde.

Aber für die frühen Urmenschen war es schwierig, die Gedanken anderer Urmenschen vorherzusagen. Das Gehirn ist eine komplizierte Sache!

Der einzige Vorteil, den ein Primatenvorfahr hat, ist die Tatsache, dass sein eigenes Gehirn dem Gehirn anderer Menschen ähnelt. Man kann sein eigenes Gehirn als Vorlage, als Ausgangspunkt nutzen, um zu erraten, was andere Hominiden denken könnten.

Also entwickelten die Urmenschen eine mentale Mechanik, um sich in eine andere Person hineinzuversetzen, einen speziellen Modus, der sagt: "Anstatt meine üblichen Gedanken zu denken, versuche ich, die Vorlieben und den Wissensstand der anderen Person zu übernehmen und die Gedanken zu denken, die sie denken würde, da ihr Gehirn im Grunde genommen genauso funktioniert wie meines."

Aber dieser spezielle Modus, sich als jemand anderes auszugeben, ist nicht vollständig von unseren eigenen Gefühlen abgekoppelt. Wenn wir sehen, wie jemand sich einen Stein auf den Zeh fallen lässt, und uns (implizit, automatisch) vorstellen, was in seinem Kopf vor sich geht, zucken wir zusammen.

(Dieser großartige Zufall der mentalen Architektur verdient mehr Lobeshymnen, als wir hier schreiben können. Mit dem Zähne zusammenbeißen, wenn man sieht, wie jemand anderes Schmerzen hat, diese Fähigkeit auf einer grundlegenden Ebene zu haben, auch wenn wir sie manchmal ausschalten, ist keine notwendige Eigenschaft des Geistes. Dass dies bei Primaten der Fall ist, ist so grundlegend für das, was wir Menschen heute sind, was wir gerne sind, was wir zu sein glauben, dass es ein Buch darüber geben sollte und über die grundlegende Rolle, die die Fähigkeit zur Empathie bei allem spielt, was am Menschen wertvoll ist. Aber dies ist nicht dieses Buch.)

Es ist eine vernünftige Vermutung, dass unsere Primatenvorfahren, nachdem sie die Fähigkeit entwickelt hatten, andere Affen zu modellieren (um vorherzusagen, wer Freund und wer Feind war), es auch nützlich fanden, sich selbst zu modellieren, um eine Vorstellung von dem Affen zu entwickeln, der dieser Affe ist, das Konzept, das wir heute mit den Worten "ich", "mich selbst" und "mich" symbolisieren. Und die natürliche Selektion, immer opportunistisch, nutzte denselben Mechanismus, den wir verwenden, um uns andere vorzustellen, um zusätzlich uns selbst vorzustellen.^*

Die wahre Geschichte ist wahrscheinlich komplexer und verworrener und hat möglicherweise sogar Wurzeln, die weit vor den Primaten zurückreichen. Aber so etwas ist Teil der riesigen unsichtbaren Hintergrundgeschichte dafür, warum Menschen zusammenzucken, wenn sie den Schmerz anderer beobachten, und warum die meisten Menschen dazu neigen, Empathie und Mitgefühl für ihre Mitmenschen zu empfinden. Ein Großteil dieser Hintergrundgeschichte basiert auf einer Abkürzung, die für die natürliche Selektion im menschlichen Gehirn leicht anzuwenden war, wo sowohl das "Selbst" als auch das "Andere" die gleiche Art von Gehirn sind, das auf derselben Architektur läuft.

Diese Abkürzung ist für den Gradientenabstieg nicht in gleicher Weise möglich, da die KI nicht mit einem sehr menschenähnlichen Gehirn beginnt, das sie für die Modellierung der vielen Menschen in ihrer Umgebung umfunktionieren kann. Eine KI muss tatsächlich von Grund auf ein Modell von etwas außerhalb ihrer selbst lernen, das nicht wie sie selbst ist.

Um es einfach auszudrücken: Eine KI kann zunächst nicht herausfinden, dass ein Mensch Schmerzen hat, wenn er sich den Zeh stößt, indem sie sich vorstellt, sich selbst den Zeh zu stoßen, da sie weder Zehen noch ein Nervensystem hat, dessen Impulse Signale für Schmerzen enthalten. Sie kann nicht vorhersagen, was Menschen lustig finden, indem sie fragt, was sie selbst lustig finden würde, da sie nicht mit einem Gehirn ausgestattet ist, das so funktioniert wie das menschliche Gehirn.

Obwohl diese Geschichte stark vereinfacht ist, wollen wir damit ganz allgemein sagen, dass die höheren Ideale der Menschheit von den Besonderheiten unserer alten Primaten-Geschichte und unserem sozialen Umfeld in der Vorzeit abhängen. Freundschaft ist ein fernes Echo unseres Bedürfnisses nach Verbündeten in einer Stammesumgebung. Romantische Liebe ist ein fernes Echo unserer geschlechtsspezifischen Paarungsmuster. Selbst Dinge, die auf den ersten Blick weniger willkürlich und grundlegender erscheinen mögen, wie beispielsweise Neugier, sind beim Menschen nicht auf unvermeidliche oder offensichtlich konvergente Weise verankert.

Die Einzelheiten, wie wir diese psychologischen Eigenschaften entwickelt haben, hängen davon ab, wie hoch entwickelt unser Gehirn zu dem Zeitpunkt war, als wir sie brauchten. Beim Menschen verschmolzen Freundschaft, romantische Liebe und familiäre Liebe zu allgemeiner Freundlichkeit und Wohlwollen. Für uns sieht das so aus, als hätte die Evolution in einer ganz bestimmten Phase der Gehirnentwicklung Abkürzungen genommen. Menschen tun viele Dinge heuristisch, die ein Verstand grundsätzlich durch explizites Denken tun könnte, aber diese Eigenschaften entwickelten sich zu einer Zeit, als die Menschen noch nicht intelligent genug waren, um diese Probleme mit explizitem Denken zu lösen.^†

Selbst unter anderen biologisch entwickelten Außerirdischen sind wir uns nicht sicher, wie oft wir Freundlichkeit finden würden. Man kann sich vorstellen, dass Außerirdische, bevor sie sich zu größeren Gruppen zusammenschlossen, über mathematisch begabtere Gehirne verfügten, und vielleicht fiel es der Evolution leicht, diesen Außerirdischen spezifische Verwandtschaftsinstinkte zu verleihen, den Instinkt für: "dieses Individuum teilt 50 Prozent meiner Herkunft, während jenes nur 12,5 Prozent teilt". Vielleicht haben diese Außerirdischen nur Allianzen auf der Grundlage gemeinsamer genetischer Daten oder expliziter gegenseitiger Verständigung geschlossen, anstatt Gefühle der Verwandtschaft zu entwickeln, die für jeden gelten können.

Es ist eine alte Spekulation in der Science-Fiction, dass Außerirdische, wenn sie einem genetischen Verwandtschaftsmuster ähnlich dem der eusozialen Insekten der Erde folgen würden, bei denen die Arbeiterinnen viel enger mit ihrer Königin verwandt sind als Menschen in Organisationen von der Größe einer Ameisenkolonie untereinander, kein allgemeines Gefühl der Verbundenheit und Gegenseitigkeit bräuchten, wie es für die Vorfahren der Hominiden von Vorteil war. (Es gibt also eine gewisse Berechtigung für das Science-Fiction-Klischee, dass Außerirdische, die gut zusammenarbeiten, aber kein Mitgefühl für Menschen haben, oft als riesige Insekten dargestellt werden!)

Und was ist mit KIs, die sich nicht entwickelt haben, um Gene in einem sozialen Umfeld zu verbreiten? Hier gilt das Argument "Erwarte nicht, dass ein Roboterarm weich und voller Blut ist".

Wenn Sie viel über die Funktionsweise biologischer Arme wüssten, aber noch nie einen Roboterarm gesehen hätten, würden Sie vielleicht denken, dass Roboterarme eine weiche, hautähnliche Oberfläche benötigen, um sich biegen zu können, und dass sie Venen und Kapillaren haben müssen, die sauerstoffreiche Flüssigkeit (analog zu Blut) durch den gesamten Roboterarm pumpen, um ihn mit Energie zu versorgen. Schließlich funktionieren biologische Arme so, und vermutlich gibt es Gründe dafür!

Es gibt Gründe, warum unsere Arme eine weiche, hautähnliche Außenhaut haben und mit Blut gefüllt sind. Diese Gründe hängen jedoch hauptsächlich damit zusammen, welche Strukturen sich für die Evolution leicht aufbauen lassen. Sie gelten nicht für mechanische Arme, die aus hartem Metall hergestellt und mit Strom betrieben werden können.

Roboterarme haben kein Blut, aber das führt nicht zu Fehlfunktionen, wie es bei einem menschlichen Arm der Fall wäre, wenn man ihm das gesamte Blut entziehen würde. Sie funktionieren einfach über ein alternatives, blutleeres Design. Sobald man die Mechanik von Roboterarmen versteht, erscheinen die Details biologischer Arme nicht mehr relevant.

Ähnlich verhält es sich mit einer KI: Sie funktioniert grundlegend anders als ein Mensch. Sie löst grundlegend andere Herausforderungen, und dort, wo sich ihre Herausforderungen und unsere Herausforderungen überschneiden, gibt es viele andere Möglichkeiten, die Arbeit zu erledigen. Ein U-Boot "schwimmt" nicht, aber es bewegt sich problemlos durch das Wasser.

Die menschliche Kultur beeinflusste die Entwicklung menschlicher Werte

Übrigens (sagen wir zu Klurl und Trapaucius, die zu Beginn von Kapitel 4 versuchten, die zukünftige Entwicklung der Affen vorherzusagen, die sie in der Savanne herumstreifen sahen): Menschen werden eine Gesellschaft bilden! Und sie werden miteinander über Moral und Werte diskutieren.

Das heißt: Wenn man den historischen Kausalverlauf nachverfolgt, wie ein Individuum zu den Werten gekommen ist, die es heute in seiner Gesellschaft vertritt, dann wird diese Kausalgeschichte die Argumente und Erfahrungen beinhalten, denen diese Person durch die Gesellschaft ausgesetzt war.

Und diese historisch-kausale Erklärung wird wiederum Fakten darüber beinhalten, welche Ideen am viralsten sind (abgesehen von all ihren anderen Eigenschaften). Die Erklärung hängt davon ab, wie Menschen entscheiden, Ideen zu verbreiten und weiterzugeben.

Wenn die armen Klurl und Trapaucius richtig erraten wollen, welche inneren Werte verschiedene moderne menschliche Kulturen verschiedenen modernen Menschen letztendlich vermitteln werden, müssen sie nicht nur die Existenz und Struktur dieser Komplikation vorhersagen, sondern auch ihren Verlauf.

Wenn man die Geschichte liest, wie die Sklaverei auf der Erde größtenteils beendet wurde, erscheint es ahistorisch, die Rolle zu leugnen, die der christliche Universalismus dabei gespielt hat, also der Glaube, dass der christliche Gott alle Menschen geschaffen hat und dass dies den Menschen in den Augen des Himmels einen gleichen Status verlieh.

Und dieser Universalismus wiederum könnte mit dem kulturellen Überleben und der Reproduktion des Christentums zusammenhängen; dass Christen sich verpflichtet fühlten, Missionare in fremde Kulturen zu entsenden und diese durch Überzeugung (wenn möglich) oder Gewalt (wenn nicht) zum Christentum zu bekehren, weil sie sich um diese fernen Kinder Gottes sorgten und sie in den Himmel und aus der Hölle holen wollten.

Es wäre schön, an die Menschheit zu glauben, dass die Menschen den Universalismus erfunden und gegen die Sklaverei gekämpft hätten, ohne dass dafür bestimmte religiöse Überzeugungen erforderlich gewesen wären. Wir würden gerne glauben, dass die Menschheit die Idee erfunden hätte, dass fühlende und denkende Wesen den gleichen moralischen Wert oder den gleichen Status vor dem Gemeinschaftsrecht haben, unabhängig davon, welchen Weg die Kultur eingeschlagen hat, ohne dass sie zunächst durch eine Phase gehen musste, in der sie glaubte, dass alle Seelen vor Gott gleich sind. Aber so scheint sich die Geschichte tatsächlich nicht entwickelt zu haben. Es sieht so aus, als wäre die moralische Entwicklung der Menschheit fragiler gewesen.

Schimpansen sind nicht sehr universalistisch, ebenso wenig wie viele frühe menschliche Gesellschaften. Es ist noch nicht einmal wirklich getestet worden, ob eine menschliche Gesellschaft ein oder zwei Jahrhunderte lang universalistisch bleiben kann, ohne eine universalistische Religion, an die die Menschen wirklich und tief glauben. Wir wissen es eigentlich nicht; die Moderne ist jung, und erste Daten kommen erst nach und nach herein.^‡

Aber diese zusätzlichen Komplikationen, diese zahlreichen kulturellen Zufälligkeiten, die zu den biologischen Zufälligkeiten der Menschheit hinzukommen, schwächen die Hoffnung ein wenig, dass wir es uns leisten können, blindlings in den Aufbau einer Superintelligenz zu stürzen.

Die Tatsache, dass Kultur eine wichtige Rolle für menschliche Werte spielt, bedeutet nicht, dass wir KI einfach "wie ein Kind großziehen" können und erwarten können, dass sie zu einem aufrechten Bürger wird. Unsere Kultur und Geschichte hatten diese Auswirkungen, weil sie auf detaillierte Weise mit unserer spezifischen Gehirnstruktur interagierten. Eine andere Spezies hätte auf jedes historische Ereignis anders reagiert, was dazu geführt hätte, dass die nachfolgende Geschichte von der menschlichen Geschichte abgewichen wäre, was den Effekt noch verstärkt hätte.

Es sollte auch erwähnt werden, dass sich nicht nur Kulturen oder Zivilisationen, sondern auch einzelne Menschen in ihren Werten stark unterscheiden. Wir sind es im Allgemeinen gewohnt, diese Tatsache als selbstverständlich hinzunehmen, aber wenn wir uns die natürliche Selektion als einen "Ingenieur" vorstellen, der eine Spezies schaffen wollte, die zuverlässig ein bestimmtes Ergebnis verfolgt, ist diese Vielfalt ein schlechtes Zeichen. Die natürliche Variabilität, die wir bei Menschen (und vielen anderen entwickelten Systemen) beobachten, steht im Widerspruch zum Ingenieurwesen, bei dem man wiederholbare, vorhersehbare und beabsichtigte Ergebnisse erzielen möchte.^§

Im Falle der Superintelligenz sollten Ingenieure zuverlässig Ergebnisse wie "Auf folgende Weise entwickelte KIs führen nicht zum Aussterben der Menschheit" sowie Ergebnisse wie "Auf folgende Weise entwickelte KIs liefern alle zuverlässig die gleichen allgemeinen Ergebnisse, auch wenn die Eingaben stark variieren" erzielen wollen. Wenn wir die Kontingenz der menschlichen Biologie und Geschichte sowie die große Bandbreite an moralischen Werten und Perspektiven betrachten, die Menschen heute zeigen, macht dies die Herausforderung nicht gerade einfach, insbesondere für Köpfe, die eher gezüchtet als gebaut sind (wie in Kapitel 2 diskutiert).^¶

Viele verschiedene Indizien deuten darauf hin, dass es wirklich schwierig ist, KI dazu zu bringen, wirklich das Richtige zu wollen. Theoretisch scheint es nicht unmöglich zu sein; wenn Forscher viele Jahrzehnte Zeit hätten, um an diesem Problem zu arbeiten, und nach Fehlschlägen unbegrenzt viele Versuche unternehmen könnten, würden wir erwarten, dass es technische Tricks und clevere Ansätze gibt, die das Problem lösbarer machen. Aber wir sind noch lange nicht so weit, und wir haben keine unbegrenzten Versuche.