Bei Computern besteht die Schwierigkeit darin, sie überhaupt dazu zu bringen, ein bestimmtes Problem zu lösen. Hohe Kapazität und Geschwindigkeit kommen dann schnell hinterher.

"Um die Welt zu erobern, braucht man eine Zivilisation" ist eine Intuition, die für Menschen Sinn ergibt. Es ist jedoch weit weniger offensichtlich, inwieweit sich diese Idee auf KI übertragen lässt. KIs funktionieren nicht wie Menschen, sondern sie können dramatisch leistungsfähiger sein als jeder Mensch, und eine KI-Instanz ist nicht unbedingt mit einer einzelnen Person vergleichbar.

Man sollte auch bedenken, dass Superintelligenz genau das ist, was sehr schnell zu einem Analogon einer ganzen Zivilisation führen kann.

Bei den meisten Leistungen, die Computer erbringen können, dauert es nicht lange, bis man von "Computer können das" zu "Computer können das in enormem Umfang und viel schneller als jeder Mensch" gelangt. Denken Sie zum Beispiel an Taschenrechner.

Es gab Jahre, in denen nur die leistungsstärksten Computer Spracherkennung, Videoverarbeitung oder Echtzeit-3D-Grafiken beherrschten, aber es gab nicht sehr viele solcher Jahre.

KIs können wie herkömmliche Software schnell auf so viele Computer kopiert werden, wie verfügbar sind. Und es können mit der Geschwindigkeit der Industrie immer mehr Computer gebaut werden.

Vergleichen Sie diese Situation mit der des Menschen. Die Erschaffung und Ausbildung eines neuen Menschen erfordert erhebliche Ressourcen und Jahrzehnte an Zeit. Sobald Sie eine einzige KI mit einem bestimmten Leistungsniveau haben, können Sie dieselbe trainierte, "erwachsene" KI sofort so oft Sie wollen mit minimalem Aufwand kopieren.

In gewisser Weise existiert bereits eine ganze (kleine) Zivilisation von KI-Geistern, sobald ein Unternehmen ein neues Modell in seinen Rechenzentren einführt und so viele Instanzen hochfährt, wie zur Deckung der Nachfrage erforderlich sind. Heute arbeiten diese KI-Flotten noch nicht alle harmonisch zusammen. Aber Unternehmen setzen Gruppen paralleler Agenten ein, wenn sie um jeden Preis die höchste Leistung erzielen wollen.

All dies bedeutet, dass wahrscheinlich nicht viel Zeit vergehen wird zwischen dem Zeitpunkt, an dem KI intelligent genug wird, um die Macht zu übernehmen, wenn sie über eine Million Instanzen verfügt, und dem Zeitpunkt, an dem KI mindestens so viele Instanzen laufen hat. Das Bevölkerungswachstum, für das Menschen Hunderte von Jahren brauchen, kann mit KI innerhalb von Minuten erfolgen.

Was die physische Infrastruktur der Zivilisation angeht, würden wir vermuten, dass KI produktiv auf der menschlichen Infrastruktur aufbauen kann, solange es dauert, bis sie eine fortschrittlichere Methode entwickelt hat, um Materie nach ihren Vorlieben neu zu ordnen. Sie muss nicht herausfinden, wie sie ihre eigene Lieferkette und Recheninfrastruktur von Grund auf neu aufbauen kann, wenn sie unsere Computer nutzen kann. Sie muss keine Industriemaschinen von Grund auf neu erfinden, wenn sie einfach die Kontrolle über Industriemaschinen übernehmen kann, die wir bereits gebaut haben. Und sie kann unsere Infrastruktur nutzen, um die nächste Phase ihrer eigenen Infrastruktur aufzubauen, indem sie vorhandene Roboter einsetzt, um neue und effizientere Roboterfabriken zu bauen, oder indem sie vorhandene DNA-Syntheselabors nutzt, um ihre eigene Biotechnologie zu entwickeln, bis sie völlig autark ist.

Eine Handvoll Menschen begann nackt in der Savanne und wir haben uns zu einer technologischen Zivilisation hochgearbeitet. Und wir sind nicht besonders intelligent. Für eine Superintelligenz wäre es nicht besonders schwer, ihre eigene Form des Bootstrappings zu betreiben, insbesondere wenn sie die bestehende industrielle Basis der Menschheit als Ausgangspunkt nutzen kann.

Notes