Die menschliche Intelligenz hat uns viele Vorteile gegenüber anderen Spezies verschafft. Einer der folgenreichsten ist jedoch unsere Fähigkeit, neue Technologien zu erfinden. Wenn Entwickler vorpreschen und eine KI bauen, die intelligenter ist als der Mensch, dann können wir ebenfalls davon ausgehen, dass ein Großteil der Leistungsfähigkeit der KI aus ihrer Fähigkeit resultiert, wissenschaftliche und technologische Grenzen zu erweitern. Aber wie sieht das konkret aus? Welche noch nicht erfundenen Technologien warten darauf, entdeckt zu werden?

Diese Frage lässt sich nur schwer allgemein beantworten. Ein Wissenschaftler im Jahr 1850 hätte große Schwierigkeiten gehabt, viele der Erfindungen der nächsten hundert Jahre zu erraten.

Allerdings wären sie nicht völlig hilflos gewesen. Wissenschaftler haben viele Erfindungen Jahrzehnte oder Jahrhunderte vor ihrer Realisierung vorhergesagt, wenn eine Technologie technisch durchdacht werden konnte, bevor Ingenieure alle Teile zusammenfügen konnten.^*

Eine der bedeutendsten technologischen Grenzen, die KI unserer Meinung nach wahrscheinlich erforschen wird, ist die Entwicklung extrem kleiner Werkzeuge und Maschinen. Im Folgenden gehen wir näher auf dieses Thema und die grundlegenden Überlegungen dazu ein.

Das Beispiel der Biologie

Jede Zelle jedes Organismus in der Natur enthält eine enorme Vielfalt an komplexen Mechanismen.

"Maschinen" ist hier nicht nur eine Metapher. Die betreffenden Maschinen sind klein und funktionieren daher etwas anders als die Maschinen, die Sie aus Ihrem Alltag kennen. Aber viele großtechnische Maschinen haben Entsprechungen in unserem Körper. Die ATP-Synthase erzeugt Energie im Körper auf ähnliche Weise wie ein Wasserrad, indem sie einen Protonenstrom nutzt, um einen Rotor anzutreiben.^†

Das bakterielle Flagellum funktioniert ähnlich wie der Propeller eines Bootes, komplett mit einem funktionierenden Motor, der das Flagellum dreht, um das Bakterium durch Flüssigkeiten zu treiben:

Ein weiteres Beispiel, das wir in dem Buch erwähnt haben, ist Kinesin, ein winziges Protein, das wie ein Frachtroboter funktioniert. Kinesine "laufen" selbstorganisierende Fasern entlang, die Neuronen durchqueren, und transportieren Neurotransmitter zu ihrem Zielort.

Je kleiner eine Maschine ist, desto schneller kann sie in der Regel arbeiten; und Maschinen, die so klein wie Moleküle sind, arbeiten sehr schnell. Kinesine machen bis zu 200 Schritte pro Sekunde und bewegen sich mit einem "Fuß" vorwärts, während der andere Fuß sich fest an dem Mikrotubulus hält, auf dem sie sich befinden.^‡

Eine der technologischen Grenzen, die eine intelligentere KI als der Mensch erforschen könnte, ist der Bau, die Konstruktion oder die Umnutzung von Maschinen in diesem sehr kleinen Maßstab. Diese Art von Technologie könnte als "Biotechnologie", "Nanotechnologie" oder etwas dazwischen klassifiziert werden, abhängig von Faktoren wie der Größe, der Übereinstimmung des Designs mit bestehenden Strukturen in der Biologie und der Frage, ob sie "nass" (abhängig von Wasser, wie die Maschinen in lebenden Zellen) oder "trocken" (in der Lage, an der Luft zu arbeiten) ist.

Wenn man biologische Organismen als Wunderwerke der Nanotechnik betrachtet, kann dies dabei helfen, Vermutungen darüber anzustellen, was übermenschliche KI mit Wissenschaft und Technologie, die weit über das hinausgeht, was wir heute besitzen, wahrscheinlich erreichen kann.

(Eine separate Frage ist, wie lange es dauern würde, eine solche Technologie zu erfinden und zur Reife zu bringen. Weitere Informationen zu diesem Thema finden Sie in Kapitel 1 des Buches, in dem es darum geht, dass maschinelle Superintelligenzen auf der vorhandenen Computerhardware wahrscheinlich mindestens 10.000 Mal schneller denken könnten als Menschen. Siehe auch unsere ausführliche Diskussion darüber, dass KIs zwar einige Zeit für physikalische Tests und Experimente aufwenden müssten, die damit verbundene Verlangsamung für eine Superintelligenz jedoch wahrscheinlich kein großes Hindernis darstellen würde.)

Wenn man sich die Leistungen der heutigen Ingenieure ansieht, mag es unglaubwürdig erscheinen, dass beispielsweise eine übermenschlich fähige KI, die ein Biolabor betreibt, jemals mikroskopisch kleine Fabriken bauen könnte, die sich mithilfe von Sonnenlicht immer wieder selbst replizieren. Noch fantastischer erscheint es vielleicht, sich universelle Mikrofabriken vorzustellen, die Anweisungen entgegennehmen können, um aus den verfügbaren Ressourcen nahezu jede beliebige Maschine zu bauen.

Aber solche Maschinen sind nicht nur möglich, sie existieren bereits. Algen sind mikrometergroße, solarbetriebene, sich selbst replizierende Fabriken, deren Population sich in weniger als einem Tag verdoppeln kann. Und Algen enthalten Ribosomen, die in der Biologie die Funktion eines universellen 3D-Druckers oder einer universellen Fabrikfertigungsstraße haben (zumindest was die Bausteine des Lebens angeht).

Mit den richtigen Anweisungen (kodiert in der Boten-RNA) drucken Ribosomen beliebige Strukturen aus, die aus Proteinen zusammengesetzt werden können. Diese Universalität ist die Grundlage für die enorme Komplexität und Vielfalt der biologischen Welt. Die gesamte Vielfalt des Lebens auf der Erde wird letztlich von diesen universellen Fabriken zusammengesetzt, die sich im Wesentlichen unverändert in allem wiederfinden, von Stachelschweinen über Fruchtfliegen bis hin zu Bakterien.

Die Natur liefert den Beweis dafür, dass einige wirklich außergewöhnliche physikalische Maschinen möglich sind, für Wesen, die klug genug sind, Ribosomen auf eine Weise zu nutzen, wie es Menschen nicht können, oder für Wesen, die Ribosomen nutzen, um ihre eigenen verbesserten Analoga von Ribosomen zu bauen.

Aber die Strukturen, die wir in der biologischen Welt sehen, setzen nur eine Untergrenze für das, was möglich ist. Biologische Organismen sind noch weit von den theoretischen Grenzen der Energieeffizienz und Materialfestigkeit entfernt und können von Wesen, die viel intelligenter sind als Menschen, relativ leicht verbessert werden.

Viel Platz am unteren Ende

Wenn es seltsam erscheint, Naturphänomene als Beweis dafür zu verwenden, welche Zukunftstechnologien wahrscheinlich realisierbar sind, sollte man bedenken, dass dies ein gängiges Muster in der Geschichte der Wissenschaft ist. Vögel konnten fliegen, also versuchten Erfinder jahrhundertelang, Flugmaschinen zu bauen.

Richard Feynman, ein wegweisender Physiker, demonstrierte die Leistungsfähigkeit dieses Ansatzes 1959 in einem Vortrag mit dem Titel "There's Plenty of Room at the Bottom" (Es gibt viel Platz am Boden). In diesem Vortrag berechnet Feynman, welche interessanten Dinge mit Miniaturisierung möglich wären.

Heute erscheinen Feynmans Beobachtungen als bemerkenswert vorausschauend. Feynman merkt an, dass Computer wahrscheinlich viel mehr leisten könnten, wenn sie mehr Elemente enthielten, dass das Hindernis dafür jedoch die Größe der Computer wäre. Sie müssen miniaturisiert werden!

Feynman berechnet, dass etwa ein Petabit (1.000.000.000.000.000 Bit) erforderlich wäre, um alle Bücher zu speichern, die jemals von Menschen geschrieben wurden:

Für jedes Bit rechne ich 100 Atome. Und es stellt sich heraus, dass alle Informationen, die der Mensch sorgfältig in allen Büchern der Welt gesammelt hat, in dieser Form in einem Würfel aus Material mit einer Kantenlänge von einem Zweihundertstel Zoll geschrieben werden können. Das ist das kleinste Staubkorn, das das menschliche Auge erkennen kann. Es gibt also noch viel Platz am Boden! Erzählen Sie mir nichts von Mikrofilmen!

Selbst heute haben wir das noch nicht ganz geschafft! Das tatsächliche Speicherelement in einer 2-Terabyte-microSD-Karte ist immer noch 0,6 Millimeter pro Seite groß. Zum Vergleich: 1/200 Zoll entspricht 0,125 mm pro Seite. Und die SD-Karte fasst lediglich 17,6 Billionen Bits, was nur 1/57 dessen entspricht, was Feynman 1959 berechnet hatte, um das gesamte Wissen der Menschheit zu speichern.

Vielleicht hat sich Feynman in Bezug auf die praktischen Grenzen der Technik geirrt? In letzter Zeit hat sich die Miniaturisierung von Computern deutlich verlangsamt. Zu sagen, dass etwas physikalisch möglich ist, ist kein Beweis dafür, dass Ingenieure es auch umsetzen können.

Aber dass er sich um drei Größenordnungen dem annäherte, was eines Tages erreicht werden würde, kann als eine ziemliche Vorhersageleistung für Feynman angesehen werden. Feynman hielt seinen Vortrag sechs Jahre bevor Gordon Moore erstmals die Idee vorstellte, die wir heute als "Mooresches Gesetz" bezeichnen. Die Menschen waren es nicht gewohnt, Miniaturisierung als ein unerbittliches Gesetz auf einem Diagramm zu betrachten. Uns ist niemand aus Feynmans Zeit bekannt, der spekulierte, dass es eines Tages ein Gerät geben könnte, dessen Speicherelement, das so groß wie ein Sandkorn ist, zehn Millionen Mal so viele Informationen speichern könnte wie die größten Vakuumröhrencomputer der 1950er Jahre.

Tatsächlich lag Feynman jedoch nicht falsch. Und Feynman wusste damals bereits, dass seine Schätzung sicher war:

Diese Tatsache, dass enorme Mengen an Informationen auf einem extrem kleinen Raum gespeichert werden können, ist natürlich den Biologen wohlbekannt […] All diese Informationen sind in einem winzigen Teil der Zelle in Form von langkettigen DNA-Molekülen enthalten, in denen etwa fünfzig Atome für ein Bit an Informationen über die Zelle verwendet werden.

Moderne Computer sind noch nicht auf die Größe von DNA miniaturisiert worden, aber in sechzig Jahren sind wir diesem Ziel bemerkenswert nahe gekommen. Die Transistorgates in hochwertigen kommerziellen Chips sind heute weniger als hundert Atome breit und werden mit einer Technologie hergestellt, die Materialschichten mit einer Dicke von nur einem Atom hinzufügen kann.

Die Verankerung in natürlichen Analoga und physikalischen Berechnungen auf der Rückseite eines Briefumschlags erwies sich als einzigartig starker Leitfaden für das, was in den kommenden Jahrzehnten erreicht werden würde. Und solche technologischen Entwicklungen können viel schneller voranschreiten, wenn KI die erforderlichen wissenschaftlichen und technischen Arbeiten übernimmt.

Die Biologie übertreffen

Warum kann Fleisch nicht so stark sein wie Stahl?

Im Grunde genommen handelt es sich doch um dieselben Atome. Metallische Bindungen zwischen Eisenatomen sind hart, aber das gilt auch für die kovalenten Bindungen zwischen Kohlenstoffatomen in Diamanten. Warum haben wir uns nicht so entwickelt, dass unsere Haut von einer Diamantkette durchzogen ist, die uns hilft, bis zum fortpflanzungsfähigen Alter zu überleben?

Wenn Eisen so stark ist, warum haben sich Organismen dann nicht so entwickelt, dass sie Eisenerz fressen und eine eisenbeschichtete Haut entwickeln, denn wenn menschliche Ingenieure das können, warum hat die Natur das nicht zuerst getan?

Vielleicht gibt es einen situativen Grund, warum mit Eisen beschichtete Häute keine so gute Idee sind.

Aber wenn nicht das, warum dann nicht etwas anderes?

Die große übergeordnete Frage lautet hier: Warum ist die Natur so weit von den Grenzen des physikalisch Möglichen entfernt, wie es aus der Physik berechnet oder durch menschliche Technik demonstriert wird? Gibt es eine tiefgreifende und allgemeine Antwort, nicht nur eine eng gefasste und oberflächliche?

Wir haben festgestellt, dass Feynman Strukturen aus der Biologie nutzen konnte, um mit größerem wissenschaftlichen Wissen Untergrenzen für das zu setzen, was möglich sein sollte. In vielen Fällen hat die menschliche Technologie die Biologie jedoch bereits überholt. Warum ist das möglich, obwohl die Evolution Milliarden von Jahren Zeit hatte, um Pflanzen und Tiere zu verbessern? Das Verständnis dieses allgemeinen Phänomens kann Aufschluss darüber geben, warum die Nanotechnologie wahrscheinlich weit über das hinausgehen kann, was wir heute in der Natur sehen können.

Wir können uns eine Welt vorstellen, in der Redwood-Bäume mindestens halb so hoch sind wie die höchsten Gebäude. Wir können uns eine Welt vorstellen, in der die Haut der widerstandsfähigsten Tiere mindestens halb so hart ist wie die härtesten bekannten Materialien. Warum leben wir nicht in einer solchen Welt, in der die Natur nach einigen Milliarden Jahren der Evolution an ihre physikalischen Grenzen gestoßen ist?

Diese Frage ist so tiefgreifend, dass wir nicht alles, was wir darüber wissen, kurz zusammenfassen können. Aber grob gesagt hat die natürliche Selektion Schwierigkeiten, bestimmte Bereiche des Designraums zu erreichen, darunter viele Bereiche, die für einen menschlichen Ingenieur viel leichter zu erreichen sind.

Die drei Hauptfaktoren, die unserer Meinung nach dazu beitragen, sind:

1. Die natürliche Selektion hat nur einen begrenzten Selektionsdruck und benötigt Hunderte von Generationen, um eine neue Mutation zur Universalität zu fördern. Wenn ein biologisches Merkmal nicht sehr, sehr alt ist, dann sieht sein Design oft zeitlich begrenzt und überstürzt aus.
2. Alles, was durch natürliche Selektion entstanden ist, begann als zufälliger Fehler in einem früheren Design, nämlich als Mutation. Die Evolution hat es schwerer, Teile des Designraums zu erkunden, die weit von dem entfernt sind, was derzeit in Organismen existiert. Es ist schwierig für die Evolution, Lücken zu überspringen.
3. Die natürliche Selektion hat Schwierigkeiten, neue Dinge zu erschaffen oder Probleme zu beheben, die simultane statt sequenzielle Veränderungen erfordern würden. Dies schränkt die Designs, auf die die Evolution zugreifen kann, stark ein und verleiht den aktuellen Designs in der Biologie ihr nach menschlichen Ingenieursstandards lückenhaftes, provisorisches und äußerst verworrenes Aussehen. Ein Eindruck von der Komplexität des (bekannten Teils) des menschlichen Stoffwechsels lässt sich beispielsweise anhand der Roche Biochemical Pathways Wall Chart gewinnen.

Ein einfacheres Beispiel für die Unordnung der Evolution ist das Auge. Die Augen von Wirbeltieren entwickelten sich zufällig so, dass ihre Nerven (2 in der Abbildung unten) über den lichtempfindlichen Zellen (1) liegen. Diese Nerven müssen das Auge durch eine Öffnung auf der Rückseite (3) verlassen, und da sich an dieser Stelle eine Öffnung befindet, fehlen dort lichtempfindliche Zellen. Dadurch entsteht bei allen Wirbeltieren, einschließlich des Menschen, ein blinder Fleck (4), der das Gehirn dazu zwingt, clevere Tricks anzuwenden, um die Lücke zu "füllen" (z. B. mit Informationen aus dem anderen Auge).

Kraken haben ihre Augen unabhängig entwickelt und zufällig ein sinnvolleres Design entwickelt, bei dem die Nerven hinter den lichtempfindlichen Zellen verlaufen. Dadurch können diese Kabel das Auge verlassen, ohne einen blinden Fleck zu erzeugen.

Oder betrachten wir den wiederkehrenden Kehlkopfnerv der Giraffe, der die Kehle der Giraffe mit ihrem Gehirn verbinden muss, damit sie den Kehlkopf bewegen kann. Anstatt den direkten Weg zu nehmen, verläuft dieser Nerv von der Kehle über die gesamte Länge des Halses der Giraffe, schlängelt sich umständlich um die Aorta der Giraffe, verläuft den ganzen Weg zurück zum Hals, um zu seinem Ausgangspunkt zurückzukehren, und verbindet sich dann mit dem Gehirn.

Das Ergebnis ist ein fünf Meter langer Nerv (die schwarze Schleife in der Abbildung unten), wodurch die Signale zehn- bis zwanzigmal länger brauchen, um zwischen dem Gehirn und dem Hals der Giraffe zu wandern.

Bei Fischen machte diese Konstruktion Sinn, da ihr Kehlkopfnerv das Gehirn direkt mit den Kiemen verband, also eine gerade Verbindung hatte. Nimmt man jedoch dieselbe Konstruktion und gibt dem Tier einen Hals, den man immer weiter verlängert, ohne die Verdrahtung von Grund auf neu zu gestalten, erhält man eine sehr ineffiziente Konstruktion. Überlebensfähig, aber ineffizient.

Die Evolution bringt wunderbare Konstruktionen hervor, wenn man ihr genügend Zeit lässt. Aber Menschen und KI können eine viel vielfältigere und flexiblere Palette von Konstruktionen entwickeln, und das sehr schnell.

Die ersten vielzelligen Organismen mit differenzierten und spezialisierten Zellen scheinen sich vor etwa 800 Millionen Jahren entwickelt zu haben. Aus menschlicher Sicht erscheint das wie eine Ewigkeit. Aber die Evolution verläuft viel langsamer als die menschliche Zivilisation.

Ein neu mutiertes Gen, das einen 3-prozentigen Vorteil in der Fortpflanzungsfähigkeit mit sich bringt (relativ viel für eine Mutation!) braucht im Durchschnitt 768 Generationen, um sich in einer Population von 100.000 sich kreuzenden Organismen zu verbreiten. Bei einer Populationsgröße von 1.000.000 (die geschätzte Population der Menschen s in der Zeit der Jäger und Sammler) dauert es 2.763 Generationen. Und die Wahrscheinlichkeit, dass sich die Mutation überhaupt bis zur Fixierung ausbreitet, anstatt zufällig auszusterben, beträgt nur 6 Prozent.

In der Populationsgenetik lautet die Faustregel "eine Mutation, ein Tod". Wenn durch Fehler bei der DNA-Kopie in jeder neuen Generation zehn Kopien einer schädlichen Mutation entstehen, müssen pro Generation zehn Träger dieser Mutation sterben oder sich nicht fortpflanzen, um den Druck des einfachen genetischen Rauschens auszugleichen.

Das ist als Preis für die Erhaltung der genetischen Information gar nicht so schlimm, wie es klingt. Bei einer sich sexuell fortpflanzenden Spezies kann es vorkommen, dass eine Person (oder ein Embryo) mit vielen schädlichen Mutationen stirbt, oder sich nicht fortpflanzt oder eine Fehlgeburt hat und dadurch mehr als eine mutierte Geninstanz auf einmal entfernt wird. Aber diese Einschränkung ist immer noch die Standarderklärung dafür, warum Menschen so viele verschiedene nützliche Anpassungen verloren haben, die bei Schimpansen und anderen Primaten zu finden sind. Während die natürliche Selektion beispielsweise damit beschäftigt war, die Intelligenz der Primaten zu steigern, hatte sie weniger Spielraum, um all die subtilen Geruchsgene zu erhalten, die einen reichhaltigeren Geruchssinn ermöglichen. Die relevanten Geruchsgene waren zwar nützlich für das Überleben, aber nicht nützlich genug, um erhalten zu bleiben, während die "Aufmerksamkeit" der Evolution auf andere Dinge gerichtet war.

Die meisten Giraffen sterben nicht aufgrund ihres komisch langen Kehlkopfnervs. Vielleicht verschlucken sich einige Giraffen an Zweigen, die sie überlebt hätten, wenn ihr Gehirn schneller reagieren könnte, aber das ist wahrscheinlich nicht sehr häufig. Daher hat dies für die natürliche Selektion, die nur über einen begrenzten Optimierungsdruck verfügt, einfach keine so hohe Priorität. Das schlampige Giraffendesign funktioniert größtenteils, es wird aus der Tür geschoben, und fertig.

Realistisch gesehen kann die Evolution ihre Entwürfe nicht umgestalten oder von Grund auf neu beginnen, sie kann nur kleine Änderungen vornehmen. Aber selbst wenn ein besserer Entwurf verfügbar wäre, hat die Umgestaltung dieser seltsamen zusätzlichen Komplikationen und die Bereinigung der Designschulden keine Priorität für die natürliche Selektion.

Und da die natürliche Selektion niemals vorausdenkt, wird es auch dann nicht zur Priorität, wenn es einige andere große Verbesserungen für die Giraffe gäbe, die man mit einem weniger verrückten Nervensystem-Layout freischalten könnte. Die natürliche Selektion plant nicht. Sie ist einfach die eingefrorene Geschichte dessen, welche Gene und Organismen sich in der Praxis bereits fortgepflanzt haben.

Das Wunder der Evolution besteht darin, dass sie – als rein zufälliger Suchprozess – überhaupt funktioniert.

Die Schwäche von Proteinen

Dies bringt uns zu einer weiteren Möglichkeit, wie Technologie die Biologie verbessern kann.

Weit unterhalb der Ebene des Fleisches, unsichtbar für das bloße Auge, befinden sich die Zellen. Weit unterhalb der Ebene der Zellen befinden sich die Proteine.

Proteine werden beim Zusammenfalten meist durch das molekulare Äquivalent statischer Anziehung zusammengehalten, nämlich durch Van-der-Waals-Kräfte, die zehn- oder hundertmal schwächer sind als metallische Bindungen wie Eisen oder sogar kovalente Bindungen wie Diamant.

Warum verwendet die Biologie so schwaches Material als Grundbaustein? Weil stärkeres Material für die Evolution schwieriger zu verarbeiten gewesen wäre. (Und wenn man die Evolution zu schwierig macht, dann entwickelt man nie die Art von Menschen, die solche Fragen stellen.)

Proteine falten sich unter relativ geringen molekularen Kräften und werden hauptsächlich durch statische Anziehungskräfte in diesen Formen zusammengehalten. Dies ist ein wichtiger Grund dafür, dass die natürliche Selektion eine reichhaltige Nachbarschaftsstruktur von Möglichkeiten zu erforschen hat: Zufällige Mutationen können ein Protein wiederholt verändern und schließlich zu einem neuen Design führen, das weitgehend dasselbe tut, aber etwas besser ist.

Wenn Organismen stattdessen aus Molekülen bestehen würden, die durch feste Bindungen zusammengehalten werden, wäre es weniger wahrscheinlich, dass die Veränderung einer der Komponenten eine interessant andere (und potenziell nützliche) neue Struktur hervorbringt. Es könnte zwar immer noch manchmal passieren! Aber es würde deutlich seltener v kommen. Und wenn Sie zu den Designern gehören, die zwei Milliarden Jahre brauchen, um Zellkolonien zu erfinden, und weitere eine Milliarde Jahre, um differenzierte Zelltypen zu erfinden, bedeutet "es kommt seltener vor", dass der nächste Stern anschwillt und Ihren Planeten verschlingt, bevor Sie so weit kommen.

Jedes Protein existiert aufgrund eines Kopierfehlers eines Vorgängerproteins. Das Vorgängerprotein war nicht durch viele starke Bindungen fest zusammengehalten, da dies die Evolution erschwert hätte. Daher hat das neueste Protein wahrscheinlich auch nicht viele starke Bindungen.

Die Biochemie findet manchmal starke Bindungen heraus. Wir haben zuvor das Beispiel der Knochen erwähnt. Ein weiteres Beispiel findet sich in Pflanzen. Pflanzen haben Proteine entwickelt, die sich zu Enzymen zusammenfalten, welche die Synthese von molekularen Bausteinen katalysieren, die zu einem stark kovalent vernetzten Polymer oxidiert werden: Lignin, der Baustein von Holz.^§

Aber das sind Sonderfälle, und die natürliche Selektion hat nicht viel "Aufmerksamkeit" für die Entwicklung vieler solcher Fälle.

Es ist nicht ungewöhnlich für Kohlenstoffatome und andere gängige organische Elemente, dass sie stark sein können. Es erfordert nur viel mehr Arbeit, sich zu entwickeln. Die natürliche Selektion hat nicht die Zeit, dies überall zu tun, sondern nur für einige wenige Sonderfälle, die in den Rest der Anatomie eingebaut sind, wie Knochen, wie das Lignin im Holz oder wie das Keratin in Nägeln und Krallen.

Wenn Sie die richtigen Schlüsselwörter eingeben, können Sie beispielsweise ChatGPT-o1 befragen (wenn Sie dies lesen, werden LLMs mit gleicher Leistungsfähigkeit wahrscheinlich kostenlos sein) und es nach den individuellen Bindungsstärken der Kohlenstoff-Kohlenstoff-Bindungen in Diamanten, der Eisen-Eisen-Bindungen in einfachem Eisenmetall, der kovalenten Polymerbindungen in Lignin, der Disulfidbindungen in Keratin oder der Ionenbindungen in Knochen fragen. Sie können es fragen, wie all dies mit der strukturellen Festigkeit des größeren Materials zusammenhängt. (Im Jahr 2023 hätten Sie dies nicht versuchen sollen, da GPT-4 alle Berechnungen falsch gemacht hätte, aber während wir diesen Absatz im Jahr 2024 schreiben, scheint o1 besser zu sein.)

Sie würden erfahren, dass die genaue Bindungsstärke zwischen zwei Kohlenstoffatomen in der Größenordnung von einem halben Attojoule liegt, ebenso wie die Bindungsstärke zwischen zwei Eisenatomen, und dass die Schwefel-Schwefel-Vernetzung in Keratin nur geringfügig geringer ist (0,4 Attojoule), ebenso wie die polymerisierten kovalenten Bindungen im Lignin in Holz.

Aber die statischen Haftkräfte, die Proteine zusammenfalten, sind, je nachdem, wie man es betrachtet, bestenfalls zehnmal schwächer und möglicherweise sogar hunderte oder tausende Male schwächer als das.

Und selbst wenn Pflanzen Substanzen wie Lignin katalysieren, sind die Vernetzungen dort tendenziell spärlicher als die Kohlenstoff-Kohlenstoff-Bindungen in Diamanten. Der Unterschied zwischen der GigaPascal-Festigkeit von Diamanten und der MegaPascal-Festigkeit von Holz liegt eher in der Dichte und Regelmäßigkeit der Bindungen in Diamanten und nicht darin, dass die Diamantbindungen einzeln stärker sind.^¶

Aufgrund der Grenzen der Evolution als Konstrukteur und der Grenzen von Proteinen als Baumaterial unterliegt das Leben Einschränkungen, die menschliche Konstrukteure und KI umgehen können. Vögel sind Wunderwerke der Technik, aber künstliche Flugmaschinen können zehntausendmal so schwere Lasten transportieren und sind mehr als zehnmal so schnell wie die schnellsten und stärksten Vögel. Biologische Neuronen sind Wunderwerke der Technik, aber künstliche Transistoren schalten sich zehn Millionen Mal schneller ein und aus als die schnellsten Neuronen. Und die Technologie, über die wir heute verfügen, kratzt noch immer nur an der Oberfläche dessen, was erreichbar ist.

Freitas und rote Blutkörperchen

Wir haben gesagt, dass die Biologie noch lange nicht an die Grenzen des physikalisch Möglichen gestoßen ist. Was liegt dann nahe an der Grenze?

Um einige gute Denkansätze zu dieser Frage zu veranschaulichen, können wir uns die roten Blutkörperchen ansehen.

Seit 1,5 Milliarden Jahren wird Sauerstoff in allen mehrzelligen Lebewesen, vom Menschen bis zur Eidechse, durch Hämoglobin transportiert. Hämoglobin ist ein Protein, das aus 574 Aminosäuren und vier speziell hergestellten Hämgruppen besteht, die ein spezielles Eisenmolekül binden. Ein menschliches rotes Blutkörperchen enthält etwa 280 Millionen Hämoglobinmoleküle und ist etwa sieben Mikrometer lang. Drei Millionen davon passen auf einen Stecknadelkopf, und in Ihrem Körper befinden sich etwa 30 Billionen davon.

Wie nah sind rote Blutkörperchen an den Grenzen dessen, was sie im Prinzip leisten können, wenn es um den Transport von Sauerstoff geht?

Rob Freitas, Autor von "Nanomedicine", hat 1998 eine recht detaillierte Untersuchung eines theoretischen Entwurfs für ein künstliches rotes Blutkörperchen unter Verwendung kovalent gebundener Materialien durchgeführt. Die Zelle wurde mit einem Durchmesser von einem Mikrometer entworfen, um leichter durch verstopfte Arterien wandern zu können.

Anstatt nur eine andere Möglichkeit zur Speicherung von Sauerstoffmolekülen in Betracht zu ziehen, überlegte Freitas, wie man die gesamten roten Blutkörperchen ersetzen könnte. Freitas stützte sich auf frühere Analysen, um auch die Notwendigkeit zu berücksichtigen, Glukose aus dem Blutmedium zu gewinnen und diese Glukose in Energie umzuwandeln, um die künstliche Zelle anzutreiben. Er dachte an Sensoren in Zellgröße und winzige Bordcomputer aus festen Stäben, die in andere feste Stäbe einklicken, um einfache Berechnungen durchzuführen. Er überlegte, ob sich die künstliche Zelle schneller aus der Suspension in der Flüssigkeit absetzen würde als die derzeitigen roten Blutkörperchen.

Biokompatibilität kann ein großes Problem für alles sein, was in den menschlichen Körper gelangt, aber Diamantoberflächen sind so inert, dass diamantähnliche Beschichtungen für einige medizinische Geräte verwendet werden, die in den menschlichen Körper eingeführt werden. Auf der Ebene der theoretischen Möglichkeit, die Freitas in Betracht zog, bedeutet dies, dass er einfach sagt, die Oberfläche der künstlichen Zelle könne wie ein Diamant aussehen und daher biokompatibel sein.

Das Herzstück der künstlichen roten Blutkörperchen war Freitas' Berechnung, dass ein mikrometergroßer Druckbehälter aus Einkristall-Korund oder Diamant konservativ geschätzt einem Druck von 100.000 Atmosphären standhalten würde. Mit einer komfortablen Sicherheitsmarge von 100 und einer Molekülverdichtung von nur 1.000 Atmosphären könnten die künstlichen roten Blutkörperchen 236-mal mehr Sauerstoff pro Volumeneinheit an das Gewebe abgeben als rote Blutkörperchen und eine ähnliche Menge Kohlendioxid speichern, um die andere Seite der Atmung zu puffern. Grob gesagt: Man könnte vier Stunden lang den Atem anhalten.

Nun ist die tatsächliche Herstellung solcher künstlicher Blutzellen eine ganz andere Sache. Aus diesem Grund ist diese spezielle medizinische Behandlung noch nicht in Ihrer örtlichen Arztpraxis verfügbar.

Eine 1 Kilogramm schwere Kugel aus makellosem Diamant ist auf dem Papier leicht zu beschreiben, aber ihre Synthese ist schwieriger. Freitas hilft uns dabei, fundiertere Vermutungen darüber anzustellen, wie weit die aktuelle Biologie in diesem Bereich von den theoretischen Grenzen entfernt ist.^‖ Die Biologie ist beeindruckend, aber bei weitem nicht optimal.

Es ist plausibel, dass Freitas' genauer Entwurf aus einer Vielzahl von Gründen nicht funktionieren würde, und es ist sehr wahrscheinlich, dass er nicht optimal wäre. Eine erste Idee für einen extrem neuartigen komplexen Entwurf wird mit ziemlicher Sicherheit irgendwo auf Probleme stoßen.

Wenn wir jedoch Skepsis gegenüber dem genauen Vorschlag von Freitas äußern, behaupten wir damit nicht, dass es keine Alternative zu roten Blutkörperchen geben könnte, die Sauerstoff hundertmal effizienter transportieren könnte als biologische rote Blutkörperchen.

In der Technik geht es darum, einen Weg zu finden, etwas zum Funktionieren zu bringen. Selbst wenn tausend Wege zum Bau von etwas scheitern, braucht es nur einen Erfolg, damit das gesamte Unterfangen gelingt. Die Existenz unzähliger nicht funktionsfähiger Flugzeugkonstruktionen im 17. Jahrhundert und früher bedeutete nicht, dass funktionierende Flugzeuge unmöglich waren, sondern nur, dass sie unter allen möglichen Konstruktionen schwer zu finden waren.

Aus diesem Grund haben Technologie-Skeptiker zwar oft Recht damit, dass Technologien weiter in der Zukunft liegen, als die optimistischsten Optimisten glauben, aber sie liegen in der Regel falsch mit ihrer Behauptung, dass bestimmte technologische Meisterleistungen niemals erreicht werden können. Wenn die Errungenschaft eine konkrete Aufgabe in der Welt ist, wenn wir nicht wissen, wie die Errungenschaft erreicht wird, und wenn bekannt ist, dass die Errungenschaft durch die Gesetze der Physik zulässig ist, dann zeigt die Geschichte, dass es oft einen Weg zum Erfolg gibt, auch wenn dieser Weg zunächst nicht offensichtlich ist.

Oder, mit den Worten des Autors und Erfinders Arthur C. Clarke:

Wenn ein angesehener, aber älterer Wissenschaftler sagt, dass etwas möglich ist, hat er mit ziemlicher Sicherheit Recht. Wenn er sagt, dass etwas unmöglich ist, liegt er sehr wahrscheinlich falsch.

Nanosysteme

Zusammenfassung:

• Die biologische Welt besteht aus einer unglaublichen Vielfalt molekularer Maschinen.
• Ein Blick auf die Biologie kann uns lehren, welche mikroskopischen Leistungen technologisch möglich sind.
• Die Biologie setzt jedoch nur konservative Grenzen für das, was möglich ist, aber sie ist nicht annähernd an den Grenzen des Möglichen angelangt. Die Evolution ist ein sehr begrenzter Designer, und Proteine sind nicht das beste Baumaterial.

Eric Drexlers "Nanosystems" (1992) ist das klassische Buch, das sich mit der Frage beschäftigt, welche technischen Meisterleistungen im kleinen Maßstab möglich sind. "Nanosystems" trug dazu bei, die Nanomaterialien-Revolution der 1990er Jahre anzustoßen, und löste eine Reihe von Kontroversen aus, als Wissenschaftler Drexlers Argumente diskutierten. Eine vollständige Online-Kopie von "Nanosystems" finden Sie hier.

Nanosystems ist ein tiefgründiger und weitreichender Text, der angesichts seines technischen Themas überraschend leicht zugänglich ist. Ein wichtiger Beitrag des Buches war es, die Auswirkungen des Baus kleinräumiger Strukturen auf neuartige Weise zu untersuchen.

Eine Möglichkeit, sehr kleine Dinge zu bauen, sind chemische Reaktionen: Moleküle werden unter bestimmten Bedingungen (z. B. extremer Hitze) miteinander kollidiert, um sie aufzubrechen und Atome zu neuen Molekülen zu verbinden.

Dies ist an sich schon ein leistungsfähiger Ansatz und die Methode, mit der die Menschheit Materialien wie Kunststoffe, Stähle und Keramiken herstellt, aber im Vergleich zu dem, was mit anderen Methoden gebaut werden kann, verblasst sie. Die Herstellung von Materialien aus chemischen Reaktionen ist ein wenig wie der Bau von LEGO-Strukturen, indem man Säcke voller LEGO-Steine herstellt und sie kräftig schüttelt. Auf diese Weise lassen sich zwar einige Dinge bauen, aber die Auswahl an Dingen, die man bauen kann, ist begrenzt, und es entsteht viel Abfall.

Die Proteinsynthese ist wie das Bauen großer LEGO-Konstruktionen mit den Händen aus kleineren, vorgefertigten LEGO-Sets. Da man jedes vorgefertigte Set genau an der gewünschten Stelle platzieren kann, ist eine viel größere Präzision möglich, aber es ist dennoch etwas seltsam und umständlich, weil man mit vorgefertigten Sets arbeitet. Das ist es, was Ribosomen im Körper tun: Sie reihen Aminosäureketten aneinander, um Proteine zu bilden, die dann für eine Vielzahl von Aufgaben im Körper verwendet werden.

Insulin, Hämoglobin und ATP-Synthase im menschlichen Körper sind Beispiele für Proteinkomplexe, die aus mehreren miteinander verbundenen Proteinketten bestehen: zwei Proteinketten im Fall von Insulin, vier im Fall von Hämoglobin und 29 im Fall von ATP-Synthase.

Die Bausteine von Proteinen, die Aminosäuren, sind Moleküle, die in der Regel aus zehn bis fünfundzwanzig Atomen bestehen. Als Baumaterialien haben Aminosäuren viele Vorteile:

• Jede Aminosäure hat ein Rückgrat, an das sich eine (möglicherweise lange) Seitenkette aus Kohlenstoff-, Wasserstoff-, Sauerstoff-, Stickstoff- und Schwefelatomen anlagert. Es sind Hunderte verschiedener Seitenketten möglich, die sich dann unterschiedlich verhalten, wodurch Aminosäuren zu sehr flexiblen Werkzeugen werden.
• Das Rückgrat einer Aminosäure kann wie ein LEGO-Stein an das Rückgrat einer anderen Aminosäure geklebt werden. Dies kann immer wieder wiederholt werden; ein typisches Protein besteht aus Hunderten von miteinander verbundenen Aminosäuren. Dies macht Aminosäuren als Werkzeuge (oder als Bausteine von Werkzeugen) noch flexibler. Die Komplexität von Proteinen bedeutet auch, dass Proteine oft kleine Veränderungen (durch DNA-Mutationen) durchlaufen können, ohne sich radikal zu verändern und völlig unbrauchbar zu werden, was wiederum die Entwicklung neuer Proteine erleichtert.
• Da Proteine aus linearen Ketten von Aminosäuren bestehen, kann man ein Protein eindeutig spezifizieren, indem man einfach seine Aminosäuren in der richtigen Reihenfolge auflistet. Die DNA nutzt dies aus, indem sie ein "Alphabet" aus vier Buchstaben (Nukleotiden) verwendet, um dreistellige "Wörter" (Codons, die jeweils eine andere Aminosäure darstellen) zu bilden, die dann zu einem linearen "Satz" (einem Protein, das aus genau dieser Aminosäuresequenz besteht) aneinandergereiht werden können. (Video-Illustration der DNA.)
• Wie das Miller-Urey-Experiment gezeigt hat, können Aminosäuren auch ohne Leben aus einfachen chemischen Reaktionen spontan entstehen. Dies schafft die Voraussetzungen für die Entstehung von Leben (und die Vorläufer von Ribosomen und Proteinsynthese).

Der Körper bezieht die etwa zwanzig Aminosäuren, die er für die Proteinsynthese benötigt, aus der Nahrung, durch Synthese im Körper oder durch Gewinnung von Aminosäuren aus früheren Proteinen. Ribosomen erhalten von der DNA Anweisungen, die im Wesentlichen lauten: "Verwende diese Aminosäure, dann diese andere Aminosäure, dann diese andere Aminosäure, …, dann hör auf." Die Aminosäuren werden dann (von kleinen molekularen Maschinen, den sogenannten Transfer-RNA) zum Ribosom transportiert, das das Protein Stück für Stück aufbaut.

Bemerkenswert ist, dass die obige Liste Merkmale enthält, die für die Evolution sehr wertvoll, für die gezielte Konstruktion jedoch weit weniger notwendig sind. Die Evolution benötigt eine relativ einfache, aber flexible chemische Struktur, die durch gewöhnliche chemische Reaktionen hergestellt werden kann. Ein menschlicher oder künstlicher Konstrukteur kann frei aus einer Vielzahl von nicht miteinander verwandten Molekülen wählen, anstatt dass alle Moleküle eng miteinander verwandt sein müssen. Er kann auch Bausteine verwenden, die in der Natur selten vorkommen, und diese Bausteine auf komplexe Weise von oben nach unten zusammenfügen.

Dies ist einer der Anstöße für die Erforschung eines dritten Weges zum Bau sehr kleiner Dinge: der Mechanosynthese, bei der Strukturen durch direktes Verschieben von Atomen an die richtige Stelle gebaut werden, möglicherweise unter Verwendung einer ribosomähnlichen Maschine, die Anweisungen entgegennimmt und dann weitaus vielfältigere Dinge zusammenbaut als nur verschiedene Proteine. In der LEGO-Analogie ist die Mechanosynthese so, als könnte man endlich mit einzelnen LEGO-Steinen arbeiten und jeden einzelnen genau dort platzieren, wo man ihn haben möchte.

Nanosystems untersucht, welche neuen Maschinen mit der Mechanosynthese möglich sein könnten. Ein Beispiel für die Art von Design, die Drexler untersucht, ist ein Planetengetriebe, das auf eine Größe von nur etwa 3.500 Atomen verkleinert wurde:^#

Hämoglobin besteht aus etwa 10.000 Atomen, was nicht weit von Drexlers Getriebe entfernt ist. Und einige Proteine kommen mit einer viel einfacheren Struktur aus. Insulin besteht aus nur 51 Aminosäuren, also insgesamt etwa 800 Atomen.

Drexlers Entwürfe sind jedoch in ihrer Größenordnung weitaus kleiner als die komplexeren Maschinen, die wir im Körper finden. Ribosomen und ATP-Synthase bestehen beispielsweise aus mehr als 100.000 Atomen, und der Motor eines bakteriellen Flagellums hat über eine Million Atome.

Nanosystems versucht immer noch nicht, die Grenzen des technologisch Möglichen auszuloten. Aber indem es sich auf Fälle konzentriert, die heute relativ einfach zu analysieren sind, zeigt es, dass die Mechanosynthese eine Technologie ermöglichen würde, die über das hinausgeht, was wir heute in der biologischen Welt sehen.

Die Berechnungen in Nanosystems sind bewusst konservativ gehalten. Drexler betrachtet beispielsweise Computer, die aus buchstäblich sich bewegenden Diamantstäben bestehen und das nicht weil dies die endgültige Grenze der Technologie wäre, sondern weil dies 1992 einfacher zu analysieren war als die auf Elektrizität basierende Datenverarbeitung. Dies wiederum inspirierte Freitas zu seiner Blutkörperchenanalyse. Vier Jahre später versuchten Eric Drexler und Ralph Merkle (besser bekannt als Erfinder des kryptografischen Hashings und Miterfinder der Public-Key-Kryptografie) ein System zu analysieren, das etwas näher an den Grenzen der Möglichkeiten für reversible Berechnungen lag, und berechneten eine 10.000-mal geringere Wärmeabgabe pro Operation als in Nanosystems geschätzt, obwohl die neue Schätzung auf einer weniger sorgfältig konservativen Analyse beruhte.

An anderer Stelle in Nanosystems findet sich eine grobe Skizze für einen Manipulatorarm mit sechs Freiheitsgraden, für den Millionen von Atomen erforderlich gewesen wären. Ein späterer Versuch, eine solche Maschine Atom für Atom zu skizzieren, ergab, dass nur 2.596 Atome erforderlich waren.

Der Bau atomar präziser Strukturen in der von Drexler beschriebenen Größenordnung ist mit großen technischen Herausforderungen verbunden. Eine der größten Herausforderungen besteht darin, dass für den Bau atomar präziser Strukturen unglaublich kleine und präzise Manipulatoren erforderlich sind. Die Existenz von Ribosomen bietet jedoch einen möglichen Ansatzpunkt.

Ribosomen können zwar nur Proteine bauen, aber Proteine können Reaktionspartner katalysieren und transportieren, die selbst keine Aminosäuren sind (wie Knochen und Holz). Ribosomen sind leistungsstarke und universelle Fabriken, und die Produkte von Ribosomen können als Ausgangspunkt für kleinere und präzisere Werkzeuge dienen, darunter auch Werkzeuge, mit denen kleinere Geräte aus stärkeren Materialien direkter gebaut werden können.

Ob direkt oder indirekt, es ist fast sicher möglich, dass Genome winzige Aktuatoren produzieren, die einzelne Atome manipulieren können, um eine Vielzahl von Dingen zu bauen, die nicht aus Proteinen bestehen. Und was wichtig ist: Dies ist nicht die Art von Mechanismus, auf den die natürliche Selektion zufällig stoßen könnte, selbst wenn er relativ einfach zu bauen ist, da der Manipulatorarm erst nach seiner Fertigstellung nützlich ist.

Die Evolution baut komplexe Strukturen, die in jeder Phase des Entstehungsprozesses nützlich sind. Selbst viele relativ einfache Konstruktionen stehen intelligenten Ingenieuren zur Verfügung, nicht aber der Evolution. Frei drehbare Räder zum Beispiel sind eine unglaublich einfache Erfindung, die eine Vielzahl von Anwendungsmöglichkeiten hat. Trotzdem scheinen sich frei drehbare Räder in der gesamten Geschichte des Lebens auf der Erde nur dreimal entwickelt zu haben: in der ATP-Synthase und dem bakteriellen Flagellum, die wir zuvor besprochen haben, und im archaealen Flagellum, das sich offenbar unabhängig entwickelt hat.^**

Trotz der konservativen Methoden, die in dem Buch verwendet werden, ist die von Nanosystems festgelegte technologische Untergrenze in absoluten Zahlen sehr hoch. Eine Superintelligenz mit der von Drexler beschriebenen Technologie wäre in der Lage, winzige, sich selbst replizierende, ribosomähnliche Fabriken zu produzieren, deren Population sich stündlich verdoppelt (einige Organismen replizieren sich sogar noch schneller, aber Drexler hat konservative Berechnungen angestellt) und die sich zu größeren makroskopischen Strukturen wie Kraftwerken zusammenschließen können.

Nanosysteme, wie sie Drexler beschreibt, können sich unter Verwendung von Sonnenlicht und Luft als Rohstoffe selbst replizieren, wodurch eine sehr schnelle und zuverlässige Expansion möglich ist. Der Grund, warum dies funktioniert, ist derselbe, warum Bäume in der Lage sind, Baumaterialien weitgehend aus der Luft zu gewinnen, indem sie Kohlenstoff aus der Luft binden und als Holz speichern. Obwohl wir Luft als "leeren Raum" betrachten, sind Kohlenstoff, Wasserstoff, Sauerstoff und Stickstoff in der Luft Baumaterialien, die zu festen Materialien umgewandelt und für verschiedene Zwecke verwendet werden können.

Selbstreplikatoren nach dem Vorbild von Nanosystems, die aus Materialien wie Eisen oder Diamant statt aus Proteinen bestehen, könnten biologische Zellen auf ähnliche Weise zerkleinern, wie ein Rasenmäher Gras schneidet.

Sie könnten kostengünstig etwas wie Botulinumtoxin synthetisieren, das Protein, das für Botulismus verantwortlich ist. Ein Millionstel Gramm Botulinumtoxin – zwanzigtausendmal kleiner als ein einzelnes Reiskorn – ist eine tödliche Dosis. Sorgfältig konstruierte Replikatoren könnten sich unsichtbar in der Luft verbreiten, bis mindestens einer von fast jedem Menschen eingeatmet worden wäre (der nicht z. B. den letzten Monat ausschließlich in einem U-Boot verbracht hat). An diesem Punkt könnten die Geräte (zeitgesteuert) gleichzeitig eine winzige Dosis des Toxins freisetzen und sofort und gleichzeitig fast jeden Menschen töten.

Oder von KI konstruierte Nanosysteme könnten Menschen im Zuge der Ernte und Umnutzung der Ressourcen der Erde versehentlich auslöschen. In einem Artikel von Freitas wird berechnet, dass Maschinen mit Mikro-Durchmesser, die nur Sonnenlicht als Energiequelle und Wasserstoff, Kohlenstoff, Sauerstoff und Stickstoff aus der Luft als Rohstoffe benötigen, so konstruiert werden könnten, dass sie sich so schnell vermehren, dass sie in weniger als drei Tagen den Himmel verdunkeln und gleichzeitig die gesamte Biosphäre verbrauchen.^†† Wenn also die erste KI, die eine solche Technologie erreicht, einen Vorsprung von nur wenigen Monaten hat, könnte sie diesen Vorsprung plausibel nutzen, um alle Konkurrenten (seien es Menschen oder KIs) zu vernichten. Es handelt sich um eine Technologie, die dem ersten Anwender dieser Technologie einen dauerhaften und entscheidenden strategischen Vorteil verschafft.

Die Aussage, dass die Nanotechnologie nach Drexler physikalisch realisierbar ist, bedeutet nicht zwangsläufig, dass frühe, menschenüberlegene KI tatsächlich Technologien entwickeln könnten, die sich diesen physikalischen Grenzen annähern. Unsere beste Vermutung ist, dass dies im Bereich des Möglichen liegt, was eine künstliche Superintelligenz herausfinden könnte, da die Lösung solcher technischen Aufgaben vor allem eine kognitive Herausforderung zu sein scheint (die durch Nachdenken gelöst werden kann) und wir nicht davon ausgehen, dass die Experimentier- und Testphase allzu lang sein muss.

Selbst wenn unsere Vermutung richtig ist, gibt es keine Garantie dafür, dass der erste Schritt einer Superintelligenz darin bestehen würde, Nanotechnologie zu nutzen, um ihre eigene Infrastruktur aufzubauen und die Kontrolle über die Ressourcen der Welt zu übernehmen. Nach allem, was wir wissen, würde sie Techniken und Technologien entwickeln, mit denen sie ihre Ziele noch schneller und effizienter erreichen könnte.

Wenn jedoch eine KI, die intelligenter ist als der Mensch, tatsächlich in der Lage ist, Systeme zu bauen, die für Zellen das sind, was Flugzeuge für Vögel sind, und ihre eigene Infrastruktur auf der ganzen Erde zu verbreiten, dann wäre alles, was sie letztendlich tun würde, zumindest ebenso entscheidend.

Der Sinn dieser ganzen Analyse besteht darin, zu argumentieren, dass die menschliche Technologie noch weit von den Grenzen des Möglichen entfernt ist. Es gibt eine Vielzahl wichtiger Technologien, für deren Entwicklung die Menschheit wahrscheinlich Jahrzehnte, Jahrhunderte oder Jahrtausende benötigen würde, die künstliche Superintelligenzen jedoch schnell beherrschen könnten.

Kurz gesagt, die Nanotechnologie zeigt, dass eine Superintelligenz mit einer kurzen Vorlaufzeit wahrscheinlich technologische Lösungen finden könnte, um die Herrschaft über den Planeten zu übernehmen.

Das wahrscheinlichste Ergebnis der Entwicklung einer Superintelligenz ist, dass sie eine Technologie entwickelt, die mindestens so leistungsfähig ist wie die Nanotechnologie, und dann verliert die Menschheit einfach.

Diese Vermutung ist für die Argumentation in unserem Buch nicht entscheidend. Die Menschheit würde selbst dann gegen eine Superintelligenz verlieren, wenn es auf der Welt keine "sofort zum Sieg führende" Technologie wie die Nanotechnologie gäbe. Daher gehen wir in unserem Buch nicht näher auf diese Analyse ein.

In Teil II konzentrieren wir uns bewusst auf ein Übernahme-Szenario, das nicht davon ausgeht, dass die KI über eine allgemeine Fähigkeit zur atomar präzisen Fertigung verfügt, sei es über Ribosomen oder über Mechanosynthese. Eine Superintelligenz braucht keinen überwältigenden technologischen Vorsprung, um die Kontrolle über die Zukunft zu erlangen, daher konzentrieren wir uns in dem Buch nicht allzu sehr auf diese Möglichkeit.

Es scheint jedoch auch erwähnenswert, dass sie wahrscheinlich einen überwältigenden technologischen Vorteil haben wird.

Notes