Wahrscheinlich.

Aus manchen Blickwinkeln betrachtet, scheint der Fortschritt der modernen KI inkrementell zu sein.^* Beispielsweise hat eine Organisation namens METR die Fähigkeit von KIs, lange Aufgaben zu erledigen, verfolgt und dabei in den letzten Jahren eine annähernd exponentielle Kurve festgestellt. Man könnte argumentieren, dass dies beruhigend inkrementell ist.^† Bedeutet das, dass der Fortschritt der KI schön langsam und vorhersehbar sein wird?

Nicht unbedingt. Nur weil eine Größe langsam, gleichmäßig oder schrittweise ansteigt, bedeutet das nicht, dass die Ergebnisse immer harmlos sind. Die Kernspaltung verläuft kontinuierlich, aber es besteht ein ziemlich großer Unterschied zwischen einer Kernkettenreaktion, bei der weniger als ein Neutron pro Neutron entsteht (wobei die Reaktion nachlässt), und einer Kernkettenreaktion, bei der mehr als ein Neutron pro Neutron entsteht (was zu einer unkontrollierten Kettenreaktion führt).

Es gibt jedoch keinen gravierenden Unterschied in der zugrunde liegenden Mechanik zwischen den beiden Arten von Kernreaktionen. Wenn man etwas mehr Uran hinzufügt, bewegt sich der "Neutronenmultiplikationsfaktor" sanft von knapp unter eins auf knapp über eins. Überkritische Reaktionen werden nicht durch Neutronen verursacht, die so stark auf die Uranatome treffen, dass sie Superneutronen erzeugen. Eine etwas größere Menge desselben Grundstoffs bewirkt eine große makroskopische Veränderung. Dies wird als "Schwellenwert-Effekt" bezeichnet.

Der Fall Mensch versus Schimpanse scheint ein Beweis dafür zu sein, dass es mindestens einen Schwellenwert-Effekt gibt, wenn es um Intelligenz geht. Menschen unterscheiden sich anatomisch nicht wesentlich von anderen Tieren. Das menschliche Gehirn und das Gehirn eines Schimpansen sehen im Inneren sehr ähnlich aus; wir haben beide einen visuellen Kortex, eine Amygdala und einen Hippocampus. Menschen verfügen nicht über ein spezielles zusätzliches "Technik"-Modul, das erklärt, warum wir zum Mond fliegen können und Schimpansen nicht.

Es gibt einige Unterschiede in der Verdrahtung, und wir haben einen besser entwickelten präfrontalen Kortex als andere Primaten. Aber auf der Ebene der Grobanatomie besteht der Hauptunterschied darin, dass unser Gehirn drei- bis viermal größer ist. Im Grunde genommen verfügen wir über eine größere und leicht verbesserte Version derselben Hardware.

Und die Veränderungen in unserer Abstammungslinie erfolgten nicht plötzlich. Die Gehirne unserer Vorfahren wurden einfach immer etwas größer und etwas besser, Schritt für Schritt. Das reichte aus, um recht schnell (auf der Zeitskala der Evolution) eine riesige qualitative Lücke zu öffnen.

Wenn dies beim Menschen möglich ist, dann wahrscheinlich auch bei KI.

Wir wissen nicht, wie weit KI von dieser Schwelle entfernt ist.

Wenn wir genau wüssten, was beim Menschen passiert ist, wodurch wir die Schwelle zur allgemeinen Intelligenz überschritten haben, wüssten wir vielleicht, worauf wir achten müssen, um zu erkennen, dass eine kritische Schwelle nahe ist. Aber wie wir in Kapitel 2 diskutieren werden, verfügen wir nicht über dieses Verständnis von Intelligenz. Wir fliegen also blind, ohne zu wissen, wo die Schwellen liegen und wie nah wir ihnen sind.

Die jüngsten Fortschritte in der KI haben zu einer besseren Fähigkeit geführt, mathematische Probleme zu lösen und Schach zu spielen, aber sie reichen noch nicht aus, um KI ganz ans Ziel zu bringen. Vielleicht braucht es nur ein Modell, das drei- oder viermal größer ist, ähnlich wie der Unterschied zwischen dem Gehirn eines Schimpansen und dem eines Menschen. Oder vielleicht auch nicht! Vielleicht sind eine völlig andere Architektur und ein Jahrzehnt wissenschaftlicher Fortschritte im Bereich der künstlichen Intelligenz erforderlich, so wie moderne Chatbots aus einer neuartigen Architektur stammen, die 2017 erfunden wurde (und 2022 ausgereift war).

Welche Veränderungen im menschlichen Gehirn haben dazu geführt, dass wir eine kritische Schwelle überschritten haben? Vielleicht war es unsere Fähigkeit zu kommunizieren. Vielleicht war es unsere Fähigkeit, abstrakte Konzepte so zu begreifen, dass Kommunikation so wertvoll wurde. Vielleicht denken wir völlig falsch und die entscheidende Veränderung war etwas Seltsames, das wir heute noch nicht erkennen können. Vielleicht war es eine große Mischung aus Faktoren, von denen jeder einzelne so ausgereift sein musste, dass sie sich zu einer Intelligenz verbinden konnten, die den Menschen auf den Mond bringen kann.

Wir wissen es nicht. Und weil wir es nicht wissen, können wir eine moderne KI nicht betrachten und wissen, wie nah oder fern sie von derselben kritischen Schwelle ist.

Der Beginn von Wissenschaft und Industrie hat die menschliche Zivilisation radikal verändert. Der Beginn der Sprache könnte für unsere Vorfahren ähnlich folgenreich gewesen sein. Aber wenn dem so ist, gibt es keine Garantie dafür, dass eine dieser Fähigkeiten als "kritische Schwelle" für KI fungieren wird, denn im Gegensatz zu Menschen verfügten KIs von Anfang an über ein gewisses Maß an Wissen über Sprache, Wissenschaft und Industrie.

Oder vielleicht war die kritische Schwelle für die Menschheit eine Mischung aus vielen Faktoren, von denen jeder einzelne "gut genug" sein musste, damit das gesamte System ineinandergreifen konnte. KI könnte in einigen Fähigkeiten, in denen Hominiden besser waren, wie z. B. dem Langzeitgedächtnis, hinterherhinken, aber dennoch einen wichtigen Sprung in der praktischen Fähigkeit zeigen, sobald das letzte Teilchen an seinen Platz fällt.

Selbst wenn sich keine dieser Analogien zwischen KI und Menschen als zutreffend erweisen sollte, wird es wahrscheinlich andere Dynamiken geben, die den Fortschritt der KI unstet und schwer vorhersehbar machen.

Vielleicht behindern Defizite im Langzeitgedächtnis und im kontinuierlichen Lernen die KI in einer Weise, die den Menschen nie behindert hat. Vielleicht wird, sobald diese Probleme behoben sind, etwas "klicken" und die KI scheint eine gewisse "Intelligenz" zu erlangen.

Oder (wie in dem Buch diskutiert) betrachten Sie den Punkt, an dem KI intelligentere KI entwickeln kann, die wiederum noch intelligentere KI entwickelt, in einer Rückkopplungsschleife. Rückkopplungsschleifen sind eine häufige Ursache für Schwellenwerteffekte.

Soweit wir wissen, gibt es ein Dutzend verschiedener Faktoren, die als "fehlendes Puzzleteil" dienen könnten, sodass die KI eines KI-Labors, sobald es dieses letzte Puzzleteil gefunden hat, wirklich einen Takeoff erfahren und sich von der Masse abheben könnte, so wie sich die Menschheit vom Rest der Tiere abgehoben hat. Die entscheidenden Momente könnten schnell auf uns zukommen. Wir haben nicht unbedingt viel Zeit, uns darauf vorzubereiten.

Die Takeoff-Geschwindigkeit hat keinen Einfluss auf das Ergebnis, aber die Möglichkeit eines schnellen Takeoff bedeutet, dass wir bald handeln müssen.

Schwellenwerte spielen letztendlich keine so große Rolle für das Argument, dass alle sterben werden, wenn jemand künstliche Superintelligenz entwickelt. Unsere Argumente setzen nicht voraus, dass eine KI herausfindet, wie sie sich rekursiv selbst verbessern kann, und dann mit beispielloser Geschwindigkeit superintelligent wird. Das könnte eintreten, und wir halten es für recht wahrscheinlich, dass es eintreten wird, aber für die Behauptung, dass KI auf dem besten Weg ist, uns alle zu töten, spielt es keine Rolle.

Unsere Argumente erfordern lediglich, dass KI immer besser darin wird, die Welt vorherzusagen und zu steuern, bis sie uns übertrifft. Es spielt keine große Rolle, ob dies schnell oder langsam geschieht.

Die Relevanz von Schwellenwerteffekten besteht darin, dass sie die Bedeutung einer schnellen Reaktion der Menschheit auf die Bedrohung erhöhen. Wir können uns nicht den Luxus leisten, zu warten, bis die KI bei jeder geistigen Aufgabe ein wenig besser ist als jeder Mensch, denn zu diesem Zeitpunkt bleibt möglicherweise nicht mehr viel Zeit. Das wäre so, als würde man frühe Hominiden beim Feuermachen beobachten, gähnen und sagen: "Weckt mich, wenn sie auf halbem Weg zum Mond sind."

Die Hominiden brauchten Millionen von Jahren, um die Hälfte der Strecke zum Mond zurückzulegen, und zwei Tage, um den Rest der Reise zu absolvieren. Wenn es um Schwellenwerte geht, muss man aufmerksam sein, bevor die Dinge sichtbar außer Kontrolle geraten, denn dann könnte es schon zu spät sein.

Notes