Vielleicht indem sie allgemeine Fähigkeiten erlernt und diese besser umsetzt.

Deep Blue konnte viel besser Schach spielen als alle seine Programmierer bei IBM. Wie konnten Menschen eine Maschine bauen, die im Bereich Schach intelligenter war als sie selbst? Indem sie eine KI entwickelten, die einige der gleichen Dinge tat, die sie selbst in Schachpartien zu tun versuchten (wie z. B. mehrere mögliche Spielverläufe in Betracht zu ziehen), aber viel schneller und genauer.

Auf die gleiche Weise könnte eine KI lernen, Menschen in allen möglichen anderen Fähigkeiten zu übertreffen. Sie könnte Denkmuster erlernen, die zu allgemeinen Denkfähigkeiten beitragen, und diese allgemeinen Fähigkeiten dann schneller und mit einer geringeren Fehlerquote ausführen.

Möglicherweise würde sie auch weniger mentale Fehltritte machen, zu denen Menschen neigen. Das könnte daran liegen, dass diese Fehltritte der KI irgendwann abtrainiert wurden oder dass die zugrunde liegende Maschinerie der KI, die menschliche Fehltritte vorhersagt, selbst nie zu denselben Fehltritten neigte. Oder vielleicht wurde der KI schließlich die Fähigkeit zur Selbstmodifikation verliehen, und sie beseitigte ihre Neigung zu Fehltritten, oder vielleicht wurde sie schließlich mit der Entwicklung einer intelligenteren KI beauftragt und entwickelte eine, die weniger Fehltritte machte, oder ihr Training lehrte sie auf andere Weise, weniger Fehler zu machen.

Die Fähigkeit, völlig neue Erkenntnisse zu gewinnen, entsteht nicht aus einem besonderen atomaren Funken, sondern sie besteht aus alltäglichen Teilen, wie alle besonderen Dinge. Ein Schüler kann im Prinzip seinen Lehrer beobachten und alles lernen, was dieser tut, dann einen Funken der Erkenntnis haben und dann in der Lage sein, diese Dinge schneller oder besser zu tun. Oder ein Schüler könnte verschiedene Techniken, die er von einem Lehrer gelernt hat, umfunktionieren, um einen völlig neuen Weg zu finden, seine eigenen Erkenntnisse zu gewinnen.

Wir hatten das Glück, direkte Beobachtungsbelege für beide Punkte zu haben, im Fall von AlphaGo, das wir oben besprochen haben. AlphaGo wurde intensiv mit menschlichen Daten trainiert, konnte aber besser Go spielen als die besten Menschen. (Und AlphaGo Zero, das nur aus Selbstspielen (und ohne menschliche Daten) gelernt hat, ging sogar noch weiter.)

Dies erscheint uns nicht als eine Welt, in der menschliche Daten die entscheidende Einschränkung darstellen, verglichen mit den tatsächlichen Einschränkungen wie der Architektur der KI oder der Rechenleistung, die sie vor dem Spielen nutzen kann.

Schüler können ihre Meister übertreffen.

Vielleicht durch jede andere Methode, die funktioniert. Erfolg erfordert oft solche Fähigkeiten, daher wird Gradientenabstieg sie finden.

Um menschliche Worte vorherzusagen, muss man die Welt verstehen, wie wir in "Können KI nur nachplappern, was Menschen sagen?" diskutiert haben.

Um ein fantasievolles Beispiel zu nennen: Im späten 16. Jahrhundert sammelte der Astronom Tycho Brahe akribisch Beobachtungen der Planetenpositionen am Nachthimmel. Seine Daten waren entscheidend für die Arbeit von Johannes Kepler, der das elliptische Bewegungsmuster der Planeten entdeckte, was wiederum Newtons Gravitationstheorie inspirierte. Aber Brahe selbst hat die Gesetze, die die Planeten regieren, nie herausgefunden.

Stellen Sie sich eine KI vor, die nur mit Texten trainiert wurde, die bis zum Jahr 1601 entstanden sind, die noch nie von Brahe gehört hat, aber jeden Datenpunkt vorhersagen muss, den Brahe in sein Tagebuch gekritzelt hat. Brahe zeichnete jeden Abend die Position des Mars auf, sodass die KI umso besser abschneiden würde, je genauer sie die Position des Mars vorhersagt. Der Gradientenabstieg würde alle Teile innerhalb der KI verstärken, die in der Lage waren, genau zu berechnen, wann sich der Mars (aus Brahes Perspektive) umzukehren schien und rückwärts über den Himmel wanderte.

Es spielt keine Rolle, dass Brahe dieses Naturgesetz nie herausgefunden hat. Das einfache Trainingsziel "vorhersagen, welche Marsposition Brahe als nächstes aufschreiben wird" ist die Art von Trainingsziel, die diejenigen Teile der KI stärken würde, die intelligent genug waren, um herauszufinden, wie sich Planeten bewegen.

Wenn man diese KI so lange trainieren würde, bis sie immer besser darin wäre, vorherzusagen, was Brahe Ende des 16. Jahrhunderts aufschreiben würde, hätte diese KI allen Grund, wissenschaftliche Erkenntnisse zu entwickeln, zu denen Brahe nie in der Lage war. Eine KI wird ihre Aufgabe, Menschen vorherzusagen, besser erfüllen, wenn sie intelligenter wird als die Menschen, die sie vorhersagt, denn manchmal schreiben Menschen Aufzeichnungen über Phänomene auf, die sie selbst nicht perfekt vorhersagen können.

Eine andere Frage ist, ob moderne Architekturen, Trainingsprozesse und Daten ausreichen, damit KI ihre Lehrer übertreffen kann. Moderne LLMs scheinen noch nicht ganz so weit zu sein. Aber es gibt kein theoretisches Hindernis für die Idee, seinen Lehrer zu übertreffen. Eine KI darauf zu trainieren, Menschen vorherzusagen, reicht im Prinzip aus, damit sie uns übertreffen kann.

Notes