Um das nächste Zeichen gut vorherzusagen, müssen LLMs lernen, wie die Welt funktioniert.

Angenommen, ein Arzt schreibt einen Bericht über den Verlauf der Behandlung eines Patienten. Ein Abschnitt des medizinischen Berichts lautet:

Am dritten Tag nach der Einweisung entwickelte der Patient akute Verwirrung und Zittern. Der Ammoniakspiegel im Serum wurde gemessen und war ...

Stellen Sie sich vor, eine KI, die mit diesen Daten trainiert wurde, soll das nächste Wort vorhersagen, wobei zwei plausible Kandidaten "erhöht" oder "normal" sind. Hier geht es nicht nur darum, die Art von Wörtern vorherzusagen, die Menschen verwenden, sondern darum, vorherzusagen, was in der medizinischen Realität, der Biologie und im Inneren des Patienten passiert ist. Wie viel Ammoniak war in Wirklichkeit zu messen?

Die KI, die hier das nächste Wort vorhersagt, hat eine schwierigere Aufgabe als der Mensch, der den Bericht geschrieben hat. Der menschliche Verfasser des Berichts schreibt lediglich auf, was tatsächlich beobachtet wurde. Die KI, die den Bericht vorhersagt, muss dies im Voraus erraten.

Die KI weist "erhöht" eine Wahrscheinlichkeit von 70 Prozent zu, "normal" eine Wahrscheinlichkeit von 20 Prozent und 10 Prozent verteilen sich auf eine Reihe anderer Wörter.

Das tatsächliche nächste Wort des Berichts lautet "normal".

Alles innerhalb der KI, das davon ausging, dass es "erhöht" sein würde, verliert innerhalb des medizinischen Verständnisses der KI ein wenig an Kraft. Jeder Parameter wird ein winziges bisschen in Richtung einer Dominanz des medizinischen Verständnisses angepasst, das "normal" vorhergesagt hat.

Bis die KI nach ausreichendem Training bestimmte medizinische Diagnosen besser stellt als die meisten Ärzte.

Die KI wird nicht darauf trainiert, unverständliches Zeug zu schreiben, das wie ein typischer medizinischer Bericht klingt. Sie wird darauf trainiert, das genaue nächste Wort in allen medizinischen Berichten, die sie sieht, vorherzusagen.

Wenn man mit einem sehr kleinen Modell mit zu wenigen Parametern beginnen würde, könnte es vielleicht nur lernen, medizinisch angehauchten Unsinn zu schreiben, aber bei größeren Modellen scheint dies bei Benchmarks, die menschliche Ärzte mit KI vergleichen, nicht der Fall zu sein.

Wenn jemand Ihnen den Arm um die Schulter legt und Ihnen in einem Ton großer Weisheit erzählt, dass eine KI wirklich "nur ein stochastischer Papagei" ist, stellt er sich vielleicht die lustigen alten Computerprogramme vor, die Sätze auf der Grundlage der Häufigkeit von Wortclustern ("n-Grammen") verlängerten – "Wenn diese beiden Wörter in der Vergangenheit im Korpus aufgetaucht sind, wie lautete dann normalerweise das nächste Wort?"

Systeme, die das nächste Wort anhand der letzten zwei oder drei Wörter erraten, sind trivial und existierten schon lange vor LLMs. Sie stellen für Menschen keine Herausforderung dar, wenn es darum geht, medizinische Fälle vorherzusagen. Sie klingen nicht wie Menschen, die mit Ihnen sprechen. Wenn man allein durch diese probabilistische Papageienfunktion Milliarden von Dollar an Einnahmen erzielen könnte, hätten die Menschen das schon viel früher getan!

Wenn die Milliarden von Berechnungen in einem echten LLM keine schwere Arbeit leisten würden, wenn das System nur oberflächliche Vermutungen auf der Grundlage der oberflächlichen Merkmale früherer Wörter ausspucken würde, dann würde es wie frühere Systeme klingen, die tatsächlich oberflächliche Vermutungen ausspuckten. Ein auf Jane Austen trainiertes N-Gram-System gibt beispielsweise Folgendes aus:

"Du bist durchweg charmant!", rief er mit einem Lächeln der Verbundenheit aus, und hin und wieder verbeugte ich mich, und sie erblickten eine Kutsche und vier, die sie sich wünschten.

Ein LLM, das gebeten wird, einen Satz im Stil von Jane Austen zu produzieren, ist wesentlich überzeugender; wenn Sie uns nicht glauben, fragen Sie doch einmal eines.

Auch wenn wir nicht viel darüber sagen können, was im Kopf einer KI vor sich geht, hat das KI-Unternehmen Anthropic eine Studie veröffentlicht, aus der hervorgeht, dass ihre KI (Claude) mehr als nur ein Wort im Voraus plant. Das heißt, Claude überlegte, welche späteren Sätze und Bedeutungen plausibel sein könnten, um zu erraten, welche nächsten Buchstaben zu sehen sein könnten.

KI kann bereits ihre Trainingsdaten übertreffen oder auf menschliche Daten verzichten.

Im Jahr 2016 besiegte eine von Google DeepMind entwickelte KI namens AlphaGo den menschlichen Weltmeister im Brettspiel Go. Sie wurde anhand einer riesigen Bibliothek menschlicher Go-Partien trainiert und lernte auch durch viele Partien gegen sich selbst.

Die Tatsache, dass sie Menschen schlagen konnte, deutet darauf hin, dass sie in der Lage war, allgemeine Strategien aus ihrem Training zu lernen, und dass sie erfolgreich tiefe Muster in ihren Trainingsdaten modellierte, darunter (möglicherweise) auch tiefe Muster, die Menschen noch nicht bemerkt hatten. Gradientenabstieg verstärkt alles, was funktioniert, unabhängig von seiner Herkunft.

Aber die Dominanz von AlphaGo deutete technisch gesehen nur darauf hin, dass KI weit über ihre Trainingsdaten hinausgehen kann. Man könnte immer noch einwenden, dass AlphaGo vielleicht nur Menschen kopierte und es schaffte, zu gewinnen, indem es Fähigkeiten auf menschlichem Niveau konsequenter anwendete, anstatt neue Muster zu verwenden, die Menschen als neuartig oder aufschlussreich empfinden würden.

Dies würde nicht sehr gut zum Fall des Computerschachs passen (wo menschliche Schachmeister viele Strategien und Erkenntnisse von den Computerschachprogrammen lernen, die ihnen weit überlegen sind). Aber nach AlphaGo gab es Leute, die argumentierten, dass die KI Lee Sedol nur deshalb besiegt habe, weil sie mit riesigen Mengen menschlicher Daten trainiert worden sei.

Die Leute bei DeepMind haben diese Einwände offenbar auch gesehen. In den folgenden anderthalb Jahren entwickelten sie eine KI namens AlphaGo Zero, die 2017 veröffentlicht wurde. Sie wurde überhaupt nicht mit menschlichen Daten trainiert. Sie lernte das Spiel vollständig durch Selbstspiel. Nach nur drei Tagen übertraf sie die besten menschlichen Spieler.

Man könnte immer noch einwenden, dass Go um einiges einfacher ist als die reale Welt und dass es viel einfacher ist, Go von Grund auf zu lernen als beispielsweise Wissenschaft, Physik und Ingenieurwesen. Und das stimmt auch! Aber das ist auch nicht ganz das, was die Skeptiker gesagt haben, bevor Computer gut in Go wurden.

Im Jahr 1997, also neunzehn Jahre bevor AlphaGo gewann, sagten die Leute voraus, dass es hundert Jahre dauern würde, bis Computer übermenschlich gut Go spielen könnten. Wir wissen also zumindest, dass viele Menschen eine schlechte Intuition für solche Dinge haben.

Die reale Welt ist eine kompliziertere Umgebung als Go. Die kognitiven Muster, die Ingenieurwesen, Physik, Fertigung, Logistik usw. zugrunde liegen, sind komplexer als die kognitiven Muster, die dem geschickten Go-Spiel zugrunde liegen. Es gibt jedoch keine theoretische Grundlage für die Annahme, dass KI, sobald sie diese Muster überhaupt lernen kann, auf die menschlichen Varianten beschränkt sein wird. Gradientenabstieg wird die Teile der KI verstärken, die kognitive Muster finden, die wirklich gut funktionieren, unabhängig von ihrer Herkunft.

Nichts davon ist ein Argument dafür, dass insbesondere LLMs diese Muster so weit lernen werden, dass sie den wissenschaftlichen und technologischen Fortschritt automatisieren können. Wir wissen nicht, ob sie dazu in der Lage sind oder nicht. Der Punkt ist, dass "nur" das Training mit menschlichen Texten keine grundlegende Einschränkung darstellt. Sie werden zwar nur mit menschlichen Daten trainiert, aber lassen Sie sich davon nicht die Funken der Allgemeinheit und die Andeutungen tiefgründigen Denkens verbergen, die in dem riesigen Haufen oberflächlicher "Instinkte" verborgen sind.

In Kapitel 3 werden wir mehr darüber sagen, wie eine KI von einer begrenzten Anzahl von Beispielen zu einer allgemeineren Fähigkeit gelangen könnte.

Notes