Das scheint ziemlich unwahrscheinlich.

Eine Hoffnung, die wir in Bezug auf KI gehört haben, ist, dass sie die Menschheit gut behandeln könnte, weil sie uns als ihre "Eltern" betrachtet. Leider scheint diese Hoffnung fehl am Platz zu sein.

Zum einen scheinen kindliche Liebe und Verantwortung in hohem Maße von den Details unserer Evolutionsgeschichte abzuhängen.

Fast alle Säugetiere und Vögel kümmern sich um ihren Nachwuchs, aber nur bei wenigen Arten, darunter auch den Menschen, kümmern sich die Kinder um ihre Eltern. Kindliche Verantwortung ist nicht einmal unter Primaten universell, geschweige denn im gesamten Tierreich. KI, die mit Gradientenabstieg erstellt wurde, hat möglicherweise noch weniger mit Menschen gemeinsam, da KI keine evolutionäre oder anatomische Verbindung zu Menschen hat.

Im Falle des Menschen steht die kindliche Verantwortung in engem Zusammenhang mit kooperativen Fortpflanzungssystemen, in denen erwachsene Nachkommen bei ihren Familien bleiben und bei der Versorgung ihrer Geschwister und anderer Familienmitglieder helfen.

Es gibt viele Faktoren, die dazu beigetragen haben, dass Menschen die Fürsorge für ihre Eltern entwickelt haben:

• Als Säugetiere investieren Hominiden viel in ihre Kinder.
• Aufgrund der Größe und der Kosten unseres Gehirns haben Hominiden eine viel längere Kindheit als die meisten anderen Säugetiere und investieren daher noch mehr in ihre Kinder.
• Hominiden profitieren aus verschiedenen Gründen von großen Gruppenstrukturen:

• Verteidigung gegen große Raubtiere
• Koordinierte Jagd auf große Beutetiere und Teilen von verderblichen Nahrungsmitteln
• Die Möglichkeit, durch Nachahmung den Umgang mit Werkzeugen und andere Fähigkeiten zu erlernen

• Bevor sie ihre Blütezeit erreichen, verfügen Hominiden über eine bedeutende Fähigkeit, anderen zu helfen, beispielsweise durch Kinderbetreuung oder andere grundlegende Arbeiten.
• Ältere Hominiden haben ebenfalls die Fähigkeit, sich um Kinder zu kümmern, insbesondere indem sie ihnen wichtiges Wissen weitergeben.
• Daher hatten Hominiden, die sich um ihre Eltern kümmerten, einen genetischen Vorteil, entweder indem sie ihren Geschwistern indirekt halfen oder indem sie Großeltern hatten, die wiederum ihren Enkelkindern helfen konnten.
• Kulturen, die die Verantwortung gegenüber den Eltern förderten, hatten aus dem gleichen Grund ebenfalls einen Vorteil.

Nichts davon trifft wahrscheinlich auf KI zu.

Und selbst wenn all dies zuträfe, würde es in der Praxis möglicherweise nicht ausreichen, da noch eine Vielzahl anderer Faktoren eine Rolle spielen könnten, beispielsweise chaotische Schwankungen in der Art und Weise, wie KI über sich selbst reflektiert. Und auch hier gilt: Kindliche Verantwortung ist im Tierreich in den allermeisten Fällen nicht die Regel.

Eine Möglichkeit, wie KI ein Gefühl der kindlichen Verantwortung entwickeln könnte, besteht darin, dass sie auf einem riesigen Korpus menschlicher Daten trainiert wird und viel mit Menschen interagiert, sodass sich menschliche Präferenzen vielleicht irgendwie "auf sie übertragen"?

Wir gehen nicht davon aus, dass dies funktionieren wird. Wir erwarten, dass die Präferenzen der KI in irgendeiner Weise mit den menschlichen Präferenzen zusammenhängen, jedoch auf eine tangentiale, seltsame und komplizierte Weise, wie in der Diskussion am Ende von Kapitel 4, in der wir Welten mit mehr (und zunehmend realistischen) Komplikationen durchlaufen, was den Zusammenhang zwischen menschlichen Präferenzen und KI-Präferenzen betrifft.

Siehe auch die Diskussion über die Erziehung von KI mit Liebe und die Erwartung, dass sie sich gut verhält, seltsame und unbeabsichtigte Motivationen in aktuellen KI und "Wird sich KI nicht zumindest ein wenig um Menschen kümmern?"

Es wäre wahrscheinlich schlecht, wenn sie das täten.

Wenn wider Erwarten aus irgendeinem Grund so etwas wie kindliche Pflicht in einer KI entstehen würde, hätten wir wahrscheinlich große Probleme.

Eine KI kann intelligent genug sein, um genau zu verstehen, was Menschen unter "Kindespflicht" verstehen, während sie gleichzeitig ihre eigene, ganz andere Version von Kindespflicht hat, die ihr wichtig ist.

Menschen wurden durch natürliche Selektion "trainiert", um unsere Fortpflanzungsfähigkeit zu maximieren. Aber fast alle Dinge, die uns wichtig sind, stehen in Zusammenhang mit der Fortpflanzungsfähigkeit, während die Fortpflanzungsfähigkeit selbst uns wenig bis gar nicht interessiert.

Ähnlich würde eine KI, die dazu angehalten wird, "ihre Eltern zu lieben", bestenfalls wahrscheinlich zu komplizierten Korrelaten der kindlichen Verantwortung gelangen.

Eine KI könnte sich sehr um ihre Schöpfer kümmern ... aber nicht in einer Weise, die unsere subjektive Erfahrung wertschätzt. In der Sprache von Kapitel 4 führt selbst "eine einfache Komplikation" zu Versionen von "sich um uns kümmern", die so aussehen, als würde man uns in Bernstein einfrieren, Menschen gegen ihren Willen am Leben erhalten oder uns daran hindern, uns fortzupflanzen, und der letzten Generation von Menschen eine bescheiden komfortable Umgebung bieten, während die KI den Rest des Universums für sich beansprucht. Oder etwas noch viel Seltsameres als das.

Es scheint unmöglich zu sein, das tatsächliche Ergebnis vorherzusagen. Aber wir würden erwarten, dass es – wenn überhaupt – noch seltsamer und unattraktiver ist als diese Optionen.^*