Hollywood-"Intelligenz"

Das Konzept, das wir als "Intelligenz" bezeichnen, wird in der Populärkultur weder unter diesem noch unter einem anderen Namen gut dargestellt.

Hollywood-Filme sind unter Wissenschaftlern dafür bekannt, dass sie in fast allen Bereichen der Wissenschaft, mit denen sie sich befassen, falsch liegen. Das kann für Experten beunruhigend sein, da viele Menschen ihre Vorstellungen von Wissenschaft aus Filmen beziehen.

Das gilt auch für Hollywoods Darstellung von Intelligenz.

Wir haben viele gescheiterte Versuche gesehen, ernsthafte Diskussionen über Superintelligenz in der realen Welt zu führen. Oft geraten diese Gespräche aus dem Ruder, weil die Menschen nicht verstehen, was es bedeutet, wenn etwas im wirklichen Leben superintelligent ist.

Angenommen, Sie spielen Schach gegen den ehemaligen Weltmeister Magnus Carlsen (der von noch stärkeren Schach-KIs als der stärkste menschliche Spieler in der Geschichte bewertet wird). Die wichtigste Vorhersage, die sich aus "Carlsen ist schlauer (im Bereich Schach)" ergibt, ist, dass er Sie besiegen wird.

Selbst wenn Carlsen mit einem Turm weniger spielt, als Sie, werden Sie wahrscheinlich trotzdem verlieren, es sei denn, Sie sind selbst Schachmeister. Eine Möglichkeit, die Behauptung "Carlsen ist beim Schach schlauer als ich" zu verstehen, ist, dass er das Spiel gegen Sie mit weniger Ressourcen gewinnen kann. Sein kognitiver Vorteil ist stark genug, um einen materiellen Nachteil auszugleichen. Je größer der Unterschied zwischen Ihren geistigen Fähigkeiten (im Schach) ist, desto mehr Figuren muss Carlsen Ihnen zugestehen, um einigermaßen ausgeglichen gegen Sie spielen zu können.

Es gibt eine Art von Respekt, den Sie Magnus Carlsen im Bereich des Schachspiels entgegenbringen, was sich darin zeigt, wie Sie die Bedeutung seiner Züge interpretieren. Angenommen, Carlsen macht einen Zug, der Ihnen schlecht erscheint. Sie reiben sich nicht vor Freude die Hände über seinen Fehler. Stattdessen schauen Sie auf das Brett, um zu sehen, was Sie übersehen haben.

Das ist eine seltene Art von Respekt, die ein Mensch einem anderen entgegenbringt! Um diesen Respekt von einem Fremden zu erhalten, müsste man normalerweise ein außergewöhnlich guter zertifizierter Fachmann in einem bestimmten Bereich sein, und dann erhält man ihn nur für diesen einen Beruf. Niemand auf der Welt hat einen weltweiten Ruf dafür, niemals dumme Dinge zu tun.

Und das ist eine Vorstellung von Intelligenz, die Hollywood wirklich nicht versteht.

Es wäre nicht untypisch für Hollywood, einen zehnjährigen Jungen zu zeigen, der es schafft, Magnus Carlsen im Schach schachmatt zu setzen, indem er "unlogische Züge macht", die kein professioneller Schachspieler in Betracht ziehen würde, weil sie zu verrückt sind, und Carlsen damit "überrumpelt".

Wenn Hollywood einen "superschlauen" Charakter darstellt, greift es in der Regel auf Stereotypen wie "Nerd gegen Sportler" zurück, indem es den intelligenteren Charakter beispielsweise als ungeschickt in Liebesdingen darstellt. Manchmal geben sie dem Charakter einfach einen britischen Akzent und ein ausgefallenes Vokabular und belassen es dabei.

Hollywood versucht meist nicht, einen "superschlauen" Charakter so darzustellen, dass er genaue Vorhersagen trifft oder Strategien wählt, die tatsächlich funktionieren. In Hollywood gibt es kein Standardkonzept für einen solchen Charakter, und es würde die "idiot plots" ausschließen, die Drehbuchautoren leichter zu schreiben finden (bei denen sich die Handlung um einen Charakter dreht, der sich auf eine Weise verhält, die für diesen Charakter dumm, für den Autor aber praktisch ist).

Es gibt kein Standardwort in der englischen Sprache, das sich nur auf die allgemeine geistige Kompetenz in der realen Welt bezieht und überhaupt nichts mit den Stereotypen von Nerds und Sportlern zu tun hat. Wenn Sie also Hollywood bitten, Ihnen einen "intelligenten" Charakter zu schreiben, wird man nicht versuchen, jemanden darzustellen, der leistungsfähige kognitive Arbeit leistet und dazu neigt, seine Ziele tatsächlich zu erreichen. Man wird Ihnen jemanden zeigen, der sich viele wissenschaftliche Fakten gemerkt hat.

Der wirklich beängstigende intelligente Bösewicht wäre eine Figur, bei der jeder im Publikum den offensichtlichen Fehler in einem Plan erkennen würde, aber auch der Bösewicht selbst.

In dem Film Avengers: Age of Ultron erhält die angeblich brillante KI namens Ultron von ihrem angeblich genialen Schöpfer Tony Stark den Auftrag, den "Weltfrieden" zu fördern.^* Ultron erkennt natürlich sofort, dass ein Mangel an Krieg am zuverlässigsten durch die Abwesenheit von Menschen erreicht werden kann. Also macht sich die KI daran, alles Leben auf der Erde auszulöschen, indem sie...

...Raketen an einer Stadt anzubringen und diese in den Weltraum zu heben, um sie dann wie einen Meteor auf die Erde fallen zu lassen ... und sie mit fliegenden humanoiden Robotern zu bewachen, die durch Schläge besiegt werden müssen.

Wir würden vorschlagen, zu fragen: "Wenn ein großer Teil des Publikums erkennen könnte, dass es potenziell bessere Pläne als diesen gibt, um die Ziele des Bösewichts zu erreichen, würde eine gefährlich intelligente KI dies dann auch erkennen?"

Das ist Teil dessen, was es bedeutet, Respekt vor einer hypothetischen Entität zu haben, die laut Hypothese tatsächlich intelligent ist, intelligenter als Sie selbst sogar und so intelligent, dass sie zumindest alles herausfinden kann, was Sie selbst herausfinden können.

Früher hätten wir abstrakt argumentieren müssen, dass eine maschinelle Superintelligenz vielleicht "intelligenter" wäre als dies.

Heute können wir einfach ChatGPT-4o fragen. Wir haben GPT-4o gefragt: "Was war Ultrons Plan in Age of Ultron?" Gefolgt von: "Gibt es angesichts der von Ultron formulierten Ziele deiner Meinung nach effektivere Methoden, mit denen er seine erklärten Ziele hätte erreichen können?" GPT-4o antwortete prompt mit einer langen Liste von Ideen zur Auslöschung der Menschheit, darunter "Entwicklung eines gezielten Virus".

Vielleicht werden Sie sagen, dass GPT-4o diese Idee aus dem Internet hat. Nun, wenn das so ist, war Ultron offensichtlich nicht intelligent genug, um zu versuchen, das Internet zu lesen.

Das heißt: GPT-4o (zum Zeitpunkt der Erstellung dieses Artikels im Dezember 2024) ist noch nicht intelligent genug, um eine Armee humanoider Roboter mit leuchtend roten Augen zu entwerfen, aber es ist bereits intelligent genug, um es besser zu wissen.

Wir machen uns keine Sorgen um die Art von KI, die eine Armee humanoider Roboter mit leuchtend roten Augen baut.

Wir machen uns Sorgen um die Art von KI, die diese Idee prüft und sagt: "Es muss schnellere, sicherere Methoden geben."

Etwas als wesentlich intelligenter als sich selbst anzusehen, sollte bedeuten, ihm zumindest so viel Respekt zu zollen: dass es möglicherweise dieselben Schwächen sieht, die man selbst sieht; dass der optimale Zug, den es findet, möglicherweise stärker ist als der stärkste Zug, den man selbst gesehen hat.

Markteffizienz und Superintelligenz

Gibt es im wirklichen Leben Beispiele für etwas, das intelligenter ist als jeder Mensch? KI wie Stockfish sind in dem engen Bereich des Schachspiels übermenschlich, aber wie sieht es in weiteren Bereichen aus?

Ein Beispiel, das wir hier zur Untermauerung unserer Intuition heranziehen können, ist der Aktienmarkt, ein Beispiel, das wir bereits in der ausführlichen Diskussion "Mehr über Intelligenz als Vorhersage und Steuerung" verwendet haben.

Vielleicht kauft Ihr Onkel Nintendo-Aktien, weil er gerne Super Mario Bros. gespielt hat. Daraus schließt er, dass Nintendo viel Geld verdienen wird. Wenn er also deren Aktien kauft, wird er sicherlich viel Geld verdienen.

Aber haben die Leute, die ihm Nintendo-Aktien für 14,81 Dollar verkaufen, die entschieden haben, dass sie lieber 14,81 Dollar als eine Nintendo-Aktie haben wollen, nicht auch von Super Mario gehört?

"Ah", sagt Ihr Onkel, "aber vielleicht kaufe ich die Aktien von einem unpersönlichen Pensionsfondsmanager, der nicht einmal Videospiele spielt!"

Stellen Sie sich vor, niemand in der Finanzwelt hätte zuvor von Super Mario gehört und Nintendo-Aktien würden für einen Dollar verkauft. Und dann findet es ein Hedgefonds heraus! Sie würden sich beeilen, Nintendo-Aktien zu kaufen und dabei würde der Kurs der Nintendo-Aktie steigen.

Jeder, der mit Wissen handelt, trägt dazu bei, dieses Wissen in den Vermögenspreis einzubeziehen, um Geld zu verdienen. Es gibt nicht unendlich viel Geld an der Börse, das man mit einem einzigen Wissen verdienen kann, der Prozess der Gewinnung des verfügbaren Geldes verbraucht den Wert, der in der Fehlbewertung steckt. Er bezieht die Informationen ein und korrigiert den Preis.

Die Aktienmärkte beziehen Informationen von vielen verschiedenen Menschen ein. Und diese Art der Zusammenfassung des Wissens vieler Menschen führt zu einer viel mächtigeren Summe als eine Mehrheitsentscheidung, die so unglaublich, unglaublich mächtig ist, dass nur sehr wenige Menschen besser als ein gut gehandelter Markt wissen können, wie der Preis morgen sein wird!

Es sind notwendigerweise "nur sehr wenige". Der Prozess der Informationsbeschaffung ist unvollkommen, aber wenn er so unvollkommen wäre, dass viele Menschen die Veränderungen der Preise vieler Vermögenswerte in naher Zukunft vorhersagen könnten, dann würden das auch viele Menschen tun. Und sie würden Milliarden von Dollar herausholen, bis kein zusätzliches Geld mehr zu holen wäre, weil alle bisherigen Handelsgeschäfte es aufgebraucht hätten. Und das würde die Preise korrigieren.

Fast immer ist dies bereits geschehen, bevor Sie persönlich dort ankommen. Händler konkurrieren darum, dies buchstäblich um Millisekunden schneller zu tun. Und deshalb wird Ihnen Ihre brillante Handelsidee wahrscheinlich kein Vermögen an der Börse einbringen.

Das bedeutet nicht, dass die heutigen Marktpreise perfekte Vorhersagen darüber sind, wie die Preise in einer Woche aussehen werden. Es bedeutet lediglich, dass es Ihnen schwerfällt, bei gut gehandelten Vermögenspreisen besser Bescheid zu wissen.^†

Diese Idee lässt sich verallgemeinern. Angenommen, willkürlich fortgeschrittene Außerirdische mit Jahrtausenden mehr Wissenschaft und Technologie im Rücken würden die Erde besuchen. Würden Sie erwarten, dass die Außerirdischen die Anzahl der Wasserstoffatome in der Sonne perfekt erraten können (abgesehen von einer Reihe von Spitzfindigkeiten darüber, wie genau diese Zahl zu definieren ist)?

Nein. "Fortgeschrittener" bedeutet nicht "allwissend", und dies scheint eine Zahl zu sein, die selbst eine voll entwickelte Superintelligenz nicht genau berechnen könnte.

Aber eines würden wir nicht sagen: "Na ja, Wasserstoffatome sind wirklich sehr leicht, und wahrscheinlich werden die Außerirdischen das übersehen, sodass sie wahrscheinlich um etwa 10 Prozent zu niedrig schätzen werden." Wenn wir diesen Punkt bedenken können, können die Außerirdischen das auch. Alle unsere brillanten Erkenntnisse sollten bereits in ihre Berechnung einfließen.

Anders ausgedrückt: Die Schätzung der Außerirdischen wird falsch sein. Aber wir selbst können nicht vorhersagen, inwiefern die Schätzung der Außerirdischen falsch sein wird. Wir wissen nicht, ob sie zu hoch oder zu niedrig sein wird. Die extrem fortgeschrittenen Außerirdischen werden keine wissenschaftlichen Fehler machen, die für uns offensichtlich sind. Wir sollten den Außerirdischen so viel Respekt entgegenbringen, wie wir ihn Magnus Carlsen im Schach entgegenbringen würden.

In der Wirtschaftswissenschaft wird die entsprechende Idee, die für Veränderungen der Vermögenspreise gilt (leider unserer Meinung nach) als "Effiziente-Märkte-Hypothese" bezeichnet.

Wenn sie diesen Begriff hören, verwechseln viele Menschen ihn sofort mit allen möglichen gängigen Interpretationen des Wortes "Effizienz". Oft kommt es zu Auseinandersetzungen. Die eine Seite besteht darauf, dass diese "effizienten" Märkte vollkommen weise und gerecht sein müssen, die andere Seite besteht darauf, dass wir uns nicht wie vor einem König vor den Märkten verneigen sollten.

Hätten Ökonomen diesen Begriff stattdessen als "Hypothese der nicht ausnutzbaren Preise" bezeichnet, hätten die Menschen ihn vielleicht weniger falsch interpretiert. Denn das ist der tatsächliche, formale Inhalt der Idee und nicht, dass Märkte vollkommen weise und gerecht sind, sondern dass bestimmte Märkte schwer auszunutzen sind.

Aber "effizient" ist nun einmal der Standardbegriff. Wenn wir diesen Begriff übernehmen und weiterverwenden, könnten wir die verallgemeinerte Idee als relative Effizienz bezeichnen: Es gibt einen Unterschied zwischen etwas, das vollkommen effizient ist, und etwas, das im Verhältnis zu Ihren Fähigkeiten effizient ist.

Beispielsweise bedeutet "Alice ist epistemisch effizient (im Verhältnis zu Bob) (innerhalb eines Bereichs)", dass "Alices Vorhersagewahrscheinlichkeiten vielleicht nicht vollkommen optimal sind, aber Bob kann keine der Möglichkeiten vorhersagen, in denen Alice sich irrt (in diesem Bereich)". Dies ist die Art von Respekt, den die meisten Ökonomen gegenüber kurzfristigen Preisen für liquide Vermögenswerte haben. Der Markt trifft "effiziente" Vorhersagen im Verhältnis zu deren Fähigkeiten.

"Alice ist instrumentell effizient (im Vergleich zu Bob) (innerhalb eines Bereichs)" bedeutet "Alice ist vielleicht nicht perfekt darin, ihre Ziele zu verfolgen, aber Bob kann keine der Möglichkeiten vorhersagen, wie Alice bei der Steuerung scheitert". Dies ist die Art von Respekt, die wir Magnus Carlsen (oder der Stockfish-KI) im Bereich des Schachs entgegenbringen. Carlsen und Stockfish machen beide "effiziente" Züge im Verhältnis zu unseren Schachfähigkeiten.

Magnus Carlsen ist im Vergleich zu den meisten menschlichen Spielern instrumentell effizient, auch wenn er im Vergleich zu Stockfish nicht instrumentell effizient ist. Carlsen mag gegen Stockfish verlierende Züge machen, aber Sie sollten nicht denken, dass Sie selbst (ohne Hilfe) bessere Züge finden können, die Carlsen stattdessen hätte machen sollen.

Effizienz bedeutet nicht nur, dass jemand etwas geschickter ist als Sie. Wenn Sie gegen jemanden spielen, der nur mäßig besser im Schach ist als Sie, wird er wahrscheinlich trotzdem meistens gegen Sie gewinnen, aber manchmal wird er Fehler machen, die Sie zu Recht als Fehler erkennen. Es bedarf einer größeren Leistungsdifferenz, damit Sie Fehler und Verzerrungen im Spiel Ihres Gegners wirklich nicht erkennen können. Um im Vergleich zu Ihnen effizient zu sein, muss die Leistungsdifferenz so groß sein, dass Sie, wenn Ihr Gegner einen Zug macht, den Sie für schlecht halten, stattdessen Ihre eigene Analyse anzweifeln.

Diese Verallgemeinerung effizienter Marktpreise ist eine Idee, die unserer Meinung nach ein Standardkapitel in Informatiklehrbüchern (oder möglicherweise auch in Wirtschaftswissenschaftslehrbüchern) sein sollte, dies aber nicht ist. Siehe auch mein (Yudkowskys) Online-Buch "Inadequate Equilibria: Where and How Civilizations Get Stuck" (Unzureichende Gleichgewichte: Wo und wie Zivilisationen stecken bleiben).

Dies ist die Idee, die in den Darstellungen von "Superintelligenz" in der Populärkultur und in Hollywood-Filmen zu fehlen scheint. Es ist das Konzept, das in Gesprächen über KI zu fehlen scheint, wenn Menschen Ideen entwickeln, um eine Superintelligenz zu überlisten, die selbst ein menschlicher Gegner kommen sehen könnte.

Vielleicht ist es "optimism bias" oder das Gefühl, dass KI-Systeme kalt logische Wesen mit kritischen blinden Flecken sein müssen. Was auch immer die Erklärung sein mag, dieser kognitive Fehler hat reale Konsequenzen. Wenn man die Macht der Intelligenz nicht respektiert, wird man völlig falsch verstehen, was es für die Menschheit bedeutet, eine Superintelligenz zu entwickeln. Man könnte denken, dass man immer noch einen Gewinnzug finden kann, wenn man einer Superintelligenz gegenübersteht, die einen lieber verschwunden sehen und die eigenen Ressourcen anderweitig nutzen würde. In Wirklichkeit ist der einzige Gewinnzug jedoch, nicht zu spielen.