Das wäre selbstmörderisch, weil wir noch zu weit von einer Lösung für das Alignment entfernt sind.

In den letzten zehn Jahren argumentierten einige Menschen, die sich über die Gefahren der KI Sorgen machten, dass es vielleicht gut wäre, die KI so schnell wie möglich voranzutreiben. Die Idee dahinter war, dass die intelligentesten KIs dann fast die gesamte Rechenhardware der Welt benötigen würden, um zu laufen. Kein einzelner Durchbruch würde plötzlich Tausende von leistungsstarken KIs freisetzen, die tausendmal schneller denken als jeder Mensch.

Solange die Menschheit immer einen beträchtlichen Teil ihrer Rechenleistung für den Betrieb der intelligentesten KI-Systeme nutzte, würde der Wandel zumindest schrittweise erfolgen und der Menschheit Zeit geben, sich anzupassen. Es gäbe keinen "Hardware-Überhang", keinen Moment, in dem die KI-Fähigkeiten plötzlich einen Sprung nach vorne machen, weil die Welt darauf gewartet hat, einen großen Rückstau an Rechenhardware für KI einzusetzen. So lautete zumindest das Argument.

Wir halten dies für ein ziemlich schlechtes Argument. Ein Problem dabei ist, dass Intelligenz wahrscheinlich Schwellenwerteffekten unterliegt.

Der Übergang von der Intelligenz auf Schimpansenniveau zur Intelligenz auf menschlichem Niveau war in keiner Weise "diskontinuierlich". Aus Sicht der Menschheit verlief er ganz allmählich. Aus evolutionärer Sicht ging er jedoch recht schnell vor sich. Und der Übergang von der vorindustriellen zur postindustriellen Zivilisation verlief sogar noch schneller. Nichts davon verlief allmählich genug, als dass sich andere Tiere in nennenswerter Weise daran hätten anpassen können.

Beispielsweise könnte eine KI, die einen erheblichen Teil der weltweiten Rechenleistung benötigt, um zu funktionieren, intelligent genug sein, um neue KI-Algorithmen und neue Computerchip-Designs zu entdecken, die dazu führen, dass tausend KI-Systeme, die intelligenter sind als Menschen, schon bald tausendmal schneller denken als die Menschheit. (Zur Erinnerung: Ein modernes Rechenzentrum benötigt für seinen Betrieb so viel Strom wie eine kleine Stadt, während ein Mensch für seinen Betrieb so viel Strom benötigt wie eine große Glühbirne. Es gibt also viel Spielraum für Effizienzsteigerungen bei KI.

Oder wenn der Engpass eher in der Rechenleistung für die Entwicklung von KI als in der Rechenleistung für den Betrieb von KI liegt, können wir davon ausgehen, dass nach Abschluss des Trainingsprozesses ein Überhang an großer Hardware vorhanden sein wird, wodurch die Hardware für den Betrieb einer großen Anzahl schnell denkender KI-Systeme frei wird.

Selbst wenn Intelligenz keinen Schwellenwerteffekten unterliegen würde, sind wir skeptisch gegenüber der Idee, dass es eine gute Möglichkeit ist, der Menschheit dabei zu helfen, die für den Bau robuster, freundlicher KI erforderliche Ingenieurskunst zu entwickeln, wenn man sie so schnell wie möglich mit immer intelligenterer KI konfrontiert (auch wenn keine davon intelligent genug ist, um uns zu töten).

Das Problem ist, dass KI eher gezüchtet als geschaffen wird, und niemand ist auch nur annähernd in der Lage herauszufinden, wie man KI entwickelt, die sich robust um alles kümmert, was ihre Entwickler von ihr erwarten.

Dieses Problem lässt sich nicht lösen, indem man so früh wie möglich mehr KI entwickelt. Diese Idee ist praktisch ein Non sequitur. Siehe auch einige ältere Schriften von Soares darüber, wie das Alignment der KI serielle Anstrengungen erfordert.

Der unlogische Schluss wurde dennoch von Sam Altman, dem CEO von OpenAI, aufgegriffen, der ihn 2023 als Entschuldigung dafür anführte, dass OpenAI so schnell wie möglich voranschreiten müsse.

Diese Ausrede erwies sich jedoch als hohl, als derselbe Sam Altman sich daran machte, dramatisch mehr Rechenhardware aufzubauen.

Wir halten dies für ein gutes Fallbeispiel dafür, wie Führungskräfte von KI-Unternehmen sich an jedes Argument klammern, das ihnen als Entschuldigung für ihr Vorpreschen tauglich erscheint. Wir sind der Meinung, dass die meisten dieser Argumente aufgrund ihrer Sachlage zurückgewiesen werden können, und raten davon ab, einem Argument zusätzliche Bedeutung beizumessen, nur weil es von einer Führungskraft eines KI-Unternehmens vorgebracht wurde.

Notes