Weitere Durchbrüche könnten es praktisch unmöglich machen, Menschen daran zu hindern, Superintelligenz zu entwickeln.

In dem Buch haben wir erwähnt, wie eine einzige Veröffentlichung aus dem Jahr 2017 die gesamte LLM-Revolution ins Rollen brachte, indem sie einen Algorithmus beschrieb, der es praktisch machte, nützliche KIs auf spezialisierter kommerzieller Hardware zu trainieren.

Sollte leistungsstarke KI jemals auf weit verbreiteter Verbraucherhardware trainierbar werden, müssten Maßnahmen zur Verhinderung von Superintelligenz aufwendig werden und würden schneller scheitern.

Deshalb ist die Forschung an noch leistungsfähigeren und effizienteren KI-Algorithmen auch ein tödliches Gift für die Menschheit.

Das sind sehr schlechte Nachrichten, und nicht das, was wir uns wünschen würden. Aber es scheint die Situation zu sein, in der wir uns befinden.

Kein Gesetz kann die aktuellen KI-Wissenschaftler davon abhalten, in der Privatsphäre ihrer eigenen Gedanken mehr über effiziente Algorithmen nachzudenken. Vielleicht gründen einige Leute ein Untergrundnetzwerk, um Forschungsergebnisse auszutauschen. Einige Leute in der KI-Branche erklären bereits stolz, dass die Menschheit durch KI ausgelöscht werden sollte; sie könnten ihr Bestes tun, um dies voranzutreiben, egal was andere sagen.

Aber die KI-Forschung würde sich erheblich verlangsamen, wenn sie illegal wäre, und umso mehr, wenn allgemein bekannt wäre, dass es sich hierbei tatsächlich um eine Art von Forschung handelt, die uns alle umbringen könnte. Sie würde sich enorm verlangsamen, wenn solche Untergrundnetzwerke mit derselben Entschlossenheit aufgespürt und gestoppt würden, mit der man Menschen stoppt, die in ihrer Garage Uran anreichern wollen, weil die realen Gefahren ernst genommen werden.

Die meisten Menschen versuchen nicht, extrem illegale Dinge zu tun, die internationale Strafverfolgungs- und Geheimdienste wirklich verärgern würden. Die Veröffentlichung cleverer neuer KI-Algorithmen für illegal zu erklären, würde vielleicht 99,9 Prozent der Menschen und fast alle Unternehmen abschrecken, und die verbleibenden 0,1 Prozent könnten dann von lokalen, nationalen und internationalen Polizei- und Geheimdiensten bekämpft werden und würden bei weitem nicht das derzeitige Niveau an akademischer Finanzierung erhalten.

Es wäre eine ganz andere Welt als die heutige, in der es völlig legal ist, die gefährlichsten verrückten wissenschaftlichen Experimente der Geschichte durchzuführen, und in der riesige Unternehmen Milliarden von Dollar in dieses Unterfangen investieren.

Wir wissen nicht, wie viele Durchbrüche noch nötig sind, bis die KIs intelligent genug sind, um KI-Forschung zu betreiben und noch intelligentere KIs zu entwickeln. Es könnte ein Durchbruch sein. Es könnten fünf sein. Aber bessere Algorithmen sind genauso tödlich wie bessere Hardware. Sie sind wie zwei Pferde, die denselben Wagen von einer Klippe ziehen.