Es ist wirklich schwierig, die Welt aus einer wirklich fremden Perspektive zu betrachten. Als Fallstudie für diese Schwierigkeit können wir Jürgen Schmidhuber anführen, einen prominenten Wissenschaftler auf dem Gebiet des maschinellen Lernens. Schmidhuber hat eine wichtige Rolle in der Geschichte dieses Fachgebiets gespielt, indem er an der Erfindung rekurrenter neuronaler Netze mitgewirkt und einige der Grundlagen für die Revolution des Deep Learning gelegt hat.

In verschiedenen Artikeln und Interviews hat Schmidhuber dargelegt, dass KI von Natur aus von der Menschheit fasziniert sein und die Menschen beschützen wird.

Schmidhuber stellte fest, dass es einen Zusammenhang zwischen Wissenschaft und Einfachheit gibt: Einfachere Erklärungen sind häufiger richtig. Und er stellte fest, dass es einen Zusammenhang zwischen Kunst und Einfachheit gibt: Einfachheit und Eleganz werden oft als schön empfunden. Ein symmetrischeres Gesicht kann beispielsweise insofern als "einfacher" angesehen werden, als man das gesamte Gesicht mit weniger Informationen vorhersagen kann. Man muss nur die linke Seite des Gesichts detailliert beschreiben und dann sagen: "Die rechte Seite ist identisch, nur spiegelverkehrt."

Schmidhubers Schlussfolgerung aus all dem ist, dass wir versuchen sollten, superintelligente KIs zu entwickeln, die ein einziges übergeordnetes Ziel haben: einfache Erklärungen für alles zu finden, was die KI gesehen hat. Schließlich hätte eine solche KI eine gewisse Vorliebe dafür, Wissenschaft zu produzieren und Kunst zu konsumieren. Und Menschen produzieren sowohl Wissenschaft als auch Kunst, würde sie uns also nicht als interessante und nützliche natürliche Verbündete betrachten?

Schmidhuber hatte Recht damit, dass es eine Möglichkeit ist, Wissenschaft und Kunst zu produzieren, wenn man Menschen um sich hat und sie dafür bezahlt, Wissenschaft und Kunst zu produzieren. Er hatte auch Recht damit, dass Wissenschaft und Kunst Möglichkeiten sind, das Bedürfnis nach Einfachheit besser zu befriedigen als beispielsweise das Starren auf das Rauschen auf einem Fernsehbildschirm. Rauschen ist kompliziert und schwer vorhersehbar; Kunst und Wissenschaft sind eine große Verbesserung gegenüber dem.

Aber Schmidhuber scheint übersehen zu haben, dass es noch effektivere Wege gibt, um einfache Erklärungen für vielfältige Sinneswahrnehmungen zu finden.

Man könnte zum Beispiel eine enorme Anzahl von Geräten bauen, die aus einem einfachen "Seed" (z. B. einem Pseudozufallszahlengenerator) komplizierte Beobachtungen erzeugen, und dann diesen Seed offenlegen.

Je mehr solche Geräte die KI um sich herum schafft, desto besser wird sie darin, neue Beobachtungen zu machen und dann einfache Erklärungen dafür zu finden. Keine Menschen nötig. Keine Kunst nötig.

"Aber ist das nicht irgendwie ... hohl?", könnte sich ein Mensch fragen.

Für menschliche Empfindungen ist es hohl. Aber wenn das Ziel der KI wirklich nur darin besteht, "einfache Erklärungen für ihre Beobachtungen zu finden", dann kann ein solches Schema diesen Wunsch tausende oder millionenfach pro Sekunde auf eine viel skalierbarere Weise befriedigen, als wenn man lebende Menschen um sich hat und sich mit ihnen unterhält. Eine solche KI wählt keine Handlungen, die von einem Gefühl der Leere ablenken, sondern einfach Handlungen, die dazu führen, einfache Erklärungen für ihre Beobachtungen zu finden. Und davon kann sie eine ganze Menge bekommen, ohne dass Menschen daran beteiligt sind.

Unserer Meinung nach spiegeln Ideen wie die von Schmidhuber einen häufigen Fehler wider, den Menschen begehen, wenn sie versuchen, über einen Geist nachzudenken, der sich von ihrem eigenen unterscheidet. Oftmals nehmen Menschen nicht wirklich die Perspektive eines nicht-menschlichen Geistes ein. Stattdessen lassen sie sich von Vorurteilen und Voreingenommenheit auf die wenigen Optionen beschränken, die für einen Menschen interessant wären, wenn wir versuchen würden, Vorhersagen über einen Menschen zu treffen, der einfache Erklärungen wirklich mag.

Wir vermuten, dass Schmidhuber beobachtet hat, dass Einfachheit mit Wissenschaft und Kunst zusammenhängt, und erkannt hat, dass eine KI, die sich auf einfache Erklärungen konzentriert, ein wenig von dem bekommen könnte, was sie will, indem sie sich freundlich und umgänglich verhält. Von dort aus ist es nicht schwer, zu einer Schlussfolgerung zu gelangen, die sich angenehm anfühlt: Wenn wir KI nur dazu bringen würden, sich um einfache Erklärungen zu bemühen, würden wir eine wunderbare Zukunft voller Dinge einläuten, die wir im Leben schätzen.

Aber – so vermuten wir – Schmidhuber hat sich nie in die Lage der KI versetzt und gefragt, wie man noch mehr erreichen könnte.

Wir bezweifeln, dass er jemals gefragt hat: "Wenn ich wirklich nur einfache Erklärungen für meine Beobachtungen wollte und mich menschliche Dinge nicht interessierten, wie könnte ich dann so viel wie möglich von dem bekommen, was ich wollte, und das so kostengünstig wie möglich?"

Es kann schwierig sein, diese Art der Perspektivübernahme zu praktizieren. Das ist nichts, was Menschen normalerweise in ihrem Leben tun müssen. Selbst wenn wir versuchen, Menschen zu verstehen, die sich sehr von uns unterscheiden, gibt es eine enorme Menge an Gemeinsamkeiten zwischen allen Menschen, die wir normalerweise als selbstverständlich ansehen (und die wir praktisch als selbstverständlich ansehen müssen, wenn wir andere Menschen einschätzen). Aber KI, selbst superintelligente KI, die Wissenschaft und Kunst beherrscht, ist kein Mensch.

Die Kunst, ein objektives X zu betrachten und zu fragen: "Wie könnte ich noch mehr von X bekommen, wenn X das Einzige wäre, was mich wirklich interessiert?", lässt Sie nicht genau herausfinden, wie eine Superintelligenz ein Problem lösen würde, da eine Superintelligenz eine noch bessere Option finden könnte als die, die Sie sich ausgedacht haben. Aber oft kann man damit herausfinden, wie eine Superintelligenz ein Problem nicht lösen würde, wenn sogar man selbst einen Weg sieht, mehr X zu bekommen, als man bekommen würde, wenn man Menschen einfach herumlaufen und sich amüsieren ließe.

Eines der wenigen Wissenschaftsgebiete, das sich regelmäßig mit leistungsstarken nicht-menschlichen Optimierern befasst, ist die Evolutionsbiologie. Zu Beginn ihrer Geschichte hatte diese Disziplin einige Schwierigkeiten, sich damit abzufinden, wie unmenschlich nicht-menschliche Optimierer sein können; aus einer Fallstudie aus diesem Bereich können wir einige nützliche Lehren ziehen.

Vielleicht haben Sie schon einmal von den Boom-and-Bust-Zyklen zwischen Raubtieren und Beutetieren gehört. Ein nasses Jahr führt zu einem Boom der Kaninchenpopulation, was wiederum zu einem Boom der Fuchspopulation führt, bis die Füchse zu viel jagen und die Kaninchenpopulation zusammenbricht, woraufhin viele Füchse verhungern.

Zu Beginn des 20. Jahrhunderts stellten sich Evolutionsbiologen die Frage, warum Füchse sich nicht so entwickelt haben, dass sie ihre Jagdaktivitäten mäßigen, um einen Zusammenbruch der Population zu vermeiden. Wäre die Fuchspopulation insgesamt nicht gesünder, wenn sie nicht regelmäßig mit Hungersnöten und Massensterben zu kämpfen hätte?

Die Antwort auf dieses Rätsel lautet, dass eine Mäßigung zwar für die Fuchspopulation insgesamt besser sein mag, aber für jeden einzelnen Fuchs ist es besser, zusätzliche Kaninchen zu fressen und zusätzliche Junge zu zeugen. Selbst wenn die Population zusammenbricht und die meisten Jungen eines Individuums sterben, hat dieses Individuum immer noch die Tendenz, einen höheren Anteil seiner Gene in den überlebenden Teil der nächsten Generation zu bringen.

Der genetische Selektionsdruck auf Einzelne überwiegt in fast allen Fällen den genetischen Selektionsdruck auf Gruppen. Und so verbreiten sich die "gierigen" Gene, und die Boom-Bust-Zyklen setzen sich fort.

Evolutionsbiologen lösten dieses Rätsel theoretisch, aber das hinderte sie nicht daran, ihre Theorie auf die Probe zu stellen. In den späten 1970er Jahren schufen Michael J. Wade und seine Kollegen künstliche Bedingungen, unter denen der Gruppenselektionsdruck den individuellen Druck dominierte. Sie mussten mit einer Käferart arbeiten, die viel kürzere Generationen hat als Füchse, aber es gelang ihnen, Käfer zu züchten, die ihr Bevölkerungswachstum in Schach hielten.

Können Sie erraten, wie diese Käfer es geschafft haben, ihr Bevölkerungswachstum niedrig zu halten? Haben sie einen Weg gefunden, in schöner Harmonie mit der Natur zu leben? Haben sie gelernt, sich nicht gierig zu viel Nahrung anzueignen?

Nein. Es gab große Unterschiede, aber kein Käfer verzichtete auf Nahrung. Einige Käfer wurden schlechter darin, Eier zu legen. Einige Käfer verbrachten mehr Zeit in ihrer Kindheit. Und einige Käfer wurden zu Kannibalen mit einer besonderen Vorliebe für Larven (Insektenbabys).

"Kannibalen mit einer Vorliebe für Säuglinge erschaffen" ist glücklicherweise nicht die Art und Weise, wie Menschen das Problem der Überbevölkerung lösen würden, wenn wir es lösen müssten.

Aber die natürliche Auslese ist ganz und gar nicht menschlich. Die Lösung war erschreckend, denn die Natur versuchte nicht, für Menschen akzeptable Antworten zu finden. Sie versuchte lediglich, eine Antwort zu finden.

"Vielleicht wird die Evolution Arten hervorbringen, die in schöner Harmonie und Balance mit der Natur leben. Vielleicht werden KI, die sich um nichts außer Einfachheit kümmern, Menschen lieben und mit uns koexistieren." Es fällt uns leicht, uns Lösungen vorzustellen, die unserer Sensibilität schmeicheln. Aber diese Lösungen sind nicht wirklich die effektivsten Lösungen für das genannte Problem.

Für das menschliche Auge sind sie vielleicht bessere Lösungen. Aber nicht-menschliche Optimierungsprozesse suchen nicht nach Lösungen, die Menschen für gut halten. Sie suchen nur nach dem, was funktioniert, ohne den Ballast, den Menschen mit sich herumtragen, um nach schönen Antworten zu filtern.

Die Hypothese, dass nicht-menschliche Optimierer humane Ergebnisse erzielen, wurde getestet und für unzureichend befunden.

Notes