Sind Maschinen nicht grundsätzlich unkreativ oder auf andere Weise fatal fehlerhaft?
Nein.
Die Frage, ob Maschinen kreativ sein können, verschieben wir größtenteils auf Kapitel 3. Hier wollen wir jedoch Folgendes sagen: Maschinen müssen keinen fatalen Fehler haben, der sie gegenüber Menschen ausgleicht, sodass der unbeugsame menschliche Geist eine Chance auf den Sieg hat.
Hätten die Dodos eine eigene Filmindustrie gehabt, dann hätten die Drehbücher, die die Dodos über die Invasion der Menschen auf ihrer Insel Mauritius geschrieben hätten, vielleicht die Waffen und den Stahl der Menschen durch menschliche Nachteile ausgeglichen. Vielleicht führt die durch die Intelligenz der Menschen hervorgerufene existenzielle Angst dazu, dass sie in letzter Minute vor Verzweiflung erstarren, gerade lange genug, damit die heldenhaften Dodos zum Gegenangriff übergehen und sie alle zu Tode picken können.
Das ist vielleicht eine Geschichte, die den Dodos gefallen würde: dass Intelligenz gegenüber starken Schnäbeln unmöglich einen militärischen Vorteil darstellen kann, dass die größeren Gehirne der Menschen einen fatalen Fehler haben müssen, der es den stolzen Dodos letztendlich doch noch ermöglicht, zu gewinnen.
In Wirklichkeit sind die offensichtlichen Vorteile der Menschen tatsächliche Vorteile. Die Nachteile des menschlichen Gehirns sind in einem militärischen Konflikt mit Vogelgehirnen keine Netto-Nachteile. Der Wettstreit zwischen Menschen und Dodos endet ungleich, und damit hat sich's.
Selbst wenn Menschen gegen andere Menschen kämpfen, sind Maschinengewehre ein so großer Vorteil, dass eine Armee mit Maschinengewehren in der Regel eine Armee ohne Maschinengewehre besiegt. Es gibt seltene Ausnahmen von dieser Regel, und die Menschen erzählen gerne davon, weil die Ausnahme eine unterhaltsamere Geschichte ist als die Norm. Aber Ausnahmen kommen im wirklichen Leben viel seltener vor als in Geschichten.
Das Gleiche würden wir auch für fortschrittliche KIs mit riesigen Speichern und Verstandesfähigkeiten vorhersagen, die sich tausendfach kopieren und zehntausendmal schneller denken können als ein Mensch. Verstandesfähigkeiten, die validere Schlussfolgerungen ziehen, schneller und genauer aus weniger harten Lektionen generalisieren und sich selbst verbessern können.
Das ist keine Fangfrage, und es wird keine überraschende Wendung geben, so sehr wir uns das auch wünschen würden.