Wie intelligent könnte eine Superintelligenz werden?
Sehr intelligent.
Für jeden Punkt in der Liste der Gründe in Kapitel 1, warum das menschliche Gehirn nicht an die Grenzen seiner physikalischen Möglichkeiten stößt, könnten Maschinen sich diesen Grenzen annähern.
Die Gesetze der Physik erlauben die Existenz von Genies, die zehntausende (wenn nicht Millionen oder Milliarden) Mal schneller denken als Menschen*, die niemals schlafen oder essen müssen und die Kopien von sich selbst erstellen und Erfahrungen austauschen können.
Und das noch bevor wir Verbesserungen der kognitiven Fähigkeiten einer KI berücksichtigen.
Selbst wenn KI den Menschen nur in ein oder zwei Dimensionen deutlich überlegen ist, kann dies für einen entscheidenden Vorteil ausreichen. Im Laufe der Geschichte haben Gruppen von Menschen wiederholt relativ kleine Vorteile in Wissenschaft, Technologie und strategischer Planung genutzt, um eine dominante Position gegenüber anderen Gruppen zu erlangen. Denken Sie zum Beispiel an die spanischen Konquistadoren. Und das ohne nennenswerte Unterschiede in der Gehirnstruktur oder -größe.
Selbst kleine intellektuelle Vorteile können sich in große praktische Vorteile umsetzen lassen, und selbst kleine Vorteile können sich extrem schnell summieren. Die wahrscheinlichen Vorteile von KI scheinen jedoch alles andere als gering zu sein.
Weitere Argumente dafür, dass dieses Maß an Intelligenz von Bedeutung ist, dass es sich in reale Macht umsetzen lässt, finden Sie in Kapitel 6.
* In Kapitel 1 haben wir festgestellt, dass Computertransistoren Milliarden Male pro Sekunde ein- und ausgeschaltet werden können, während selbst die schnellsten biologischen Neuronen nur hundert Mal pro Sekunde feuern. Dies deutet darauf hin, dass KI auf aktueller Hardware selbst dann, wenn tausend Transistoroperationen erforderlich wären, um die Arbeit eines neuronalen Impulses zu erledigen, immer noch 10.000 Mal schneller denken könnte als ein Mensch.
Um diesen Vergleich weiter auszuführen: Dieser Vergleich soll keine Vorhersage darüber sein, wie viele Transistoroperationen erforderlich sind, um eine vollständige Simulation eines biologischen Neurons bis hinunter auf die Ebene der Neurotransmitter (und definitiv nicht bis hinunter auf die Ebene der Proteine oder Atome) zu implementieren. Stattdessen wollen wir darauf hinweisen, wie schnell die abstrakte Arbeit des menschlichen Denkens im Prinzip erledigt werden kann, wobei moderne Transistoren als Untergrenze für einen Aspekt der Frage “Was ist physikalisch möglich?“ verwendet werden.
Um diesen Punkt konkreter zu veranschaulichen: Es gibt ein naives Modell des menschlichen Gehirns, bei dem jedes Neuron zu einem bestimmten Zeitpunkt entweder feuert oder nicht feuert. Wir können uns vorstellen, eine große Anzahl von Transistoren zu verwenden, um diesen hypothetischen Gehirnzustand “Welche Neuronen feuern gerade?“ zu erfassen, und dann fest verdrahtete Schaltungen zu verwenden, um die Übergangsregeln zu implementieren, die festlegen, welche Neuronen im nächsten Moment feuern werden.
Ein solches Gerät würde mit Transistorgeschwindigkeit laufen, aber es ist wahrscheinlich nicht hochauflösend genug, um tatsächlich die Arbeit zu leisten, die ein menschliches Gehirn leistet. Es ist nicht so, dass Neuronen immer entweder "feuern" oder "nicht feuern", verschiedene neuronale Impulse steigen mit unterschiedlichen Geschwindigkeiten an und fallen wieder ab. (Außerdem kann ein solches Gehirn nicht lernen, da die Übergangsregeln fest verdrahtet sind.)
Der Punkt der Illustration “1.000 Transistoroperationen pro neuronalem Spike“ ist: Angenommen, es sind Hunderte von Transistoren erforderlich, um den Feuerungszustand eines einzelnen Neurons darzustellen (d. h. seinen “Spike“-Zustand bei unterschiedlichen Stärken). Nehmen wir weiter an, dass diese Hunderte von Transistoren ihren Zustand jedes Mal, wenn ein Neuron feuert, 1.000 Mal hintereinander ändern müssen (z. B. um einen Impuls mit unterschiedlicher Stärke entlang seiner Route darzustellen, wobei die Stärke dynamisch durch 999 verschiedene Interaktionen entlang seines Weges beeinflusst wird). In diesem Fall wäre ein digitales Gehirn immer noch in der Lage, menschliche Gedanken 10.000 Mal schneller als jeder Mensch auszuführen, da Transistoren 1.000 Mal hintereinander umschalten können, also 10.000 Mal pro menschlichem neuronalen Spike.
Diese Annahmen scheinen sehr großzügig zu sein. Sie besagen im Grunde genommen: “Angenommen, die Impulsstärke eines Neurons muss tausendmal hintereinander ausgelesen werden, um die Wirkung des Impulses zu erfassen, wobei jede Auslesung die nächste Auslesung auf dynamische Weise beeinflusst, die durch fest verdrahtete Schaltungen nicht umgangen werden kann.“ Selbst in diesem Extremfall könnten digitale Gehirne mit der im Jahr 2025 bereits vorhandenen Computerhardware immer noch überwältigend schneller sein als biologische Gehirne.
Diese Analogie bezieht sich nur auf die serielle Genauigkeit, die erforderlich ist, um die von einem neuronalen Spike in biologischen Gehirnen weitergegebenen Informationen zu codieren; wir sprechen hier nicht über die Berechnung, die erforderlich ist, um überhaupt zu entscheiden, ob ein Spike ausgelöst wird oder nicht. Soweit wir wissen, gibt es unter menschlichen Wissenschaftlern keinen Konsens darüber, wie viele Transistoren erforderlich sind, um ein Neuron zu simulieren, das entscheidet, ob es feuert oder nicht, aber wir wären überrascht, wenn die minimal mögliche serielle Tiefe dieses Graphen (mit so viel fest verdrahteten Schaltkreisen wie möglich) weit über tausend Transistorflips in Reihe erfordern würde. (Als allgemeine Regel der biologischen Berechnung gilt, dass sie tendenziell viel paralleler als seriell ist.)
All dies führt zu dem intuitiven Ergebnis, dass Computer Berechnungen im Allgemeinen viel, viel schneller durchführen können als Menschen, und zwar nicht allzu lange, nachdem Menschen herausgefunden haben, wie sie die Computer dazu bringen können, überhaupt die richtigen Berechnungen durchzuführen. Deshalb sind beispielsweise gewöhnliche Taschenrechner so nützlich.