Viele Technologien sind verboten oder stark reguliert.

Die Kernspaltung ist das klassische Beispiel für eine regulierte Technologie. Private Unternehmen dürfen ohne staatliche Aufsicht kein Uran anreichern, egal wie nützlich die billige Energie auch sein mag.

Tatsächlich ist die Menschheit ziemlich gut darin, alle möglichen anderen Technologien zu regulieren und zu verlangsamen. Die USA regulieren streng neue Medikamente und medizinische Geräte, den Wohnungsbau, die Kernenergieerzeugung, Fernseh- und Radioprogramme, Rechnungslegungspraktiken, Kinderbetreuung, Schädlingsbekämpfung, Landwirtschaft und Dutzende anderer Branchen. Jeder einzelne Bundesstaat verlangt eine Lizenzprüfung für Friseur- und Nagelpflege. Die meisten verlangen eine solche Prüfung auch für Massagetherapeuten.

Wir sind zufällig der Meinung, dass die Menschheit Technologien in vielen Fällen viel zu stark reguliert. Zum Beispiel scheint es uns, dass die US-amerikanische Lebensmittel- und Arzneimittelbehörde FDA weit mehr Menschen tötet (indem sie die Entwicklung lebensrettender Medikamente durch strenge Auflagen verlangsamt oder verhindert), als sie rettet (indem sie die Freigabe gefährlicher Medikamente verhindert). Unserer Meinung nach sind die Immobilienpreise viel zu hoch, was zum Teil auf gesetzliche Beschränkungen hinsichtlich der Art und des Ortes von Bauvorhaben zurückzuführen ist. Wir sind der Ansicht, dass die USA ihre eigene Atomindustrie durch strenge Vorschriften im Wesentlichen zerstört haben. Und mal im Ernst: Friseure?

Die Menschheit hat durchaus die Fähigkeit, den technologischen Fortschritt zu behindern. Es wäre wirklich tragisch und absurd, wenn wir diese Fähigkeit in den Bereichen Medizin, Wohnen und Energie einsetzen würden, aber versäumen würden, sie bei einer der wenigen Technologien einzusetzen, die uns alle töten würden, wenn sie entwickelt würden.

Ein Verbot kann sehr gezielt eingesetzt werden.

Ein Verbot der Forschung und Entwicklung im Bereich der fortgeschrittenen KI muss sich nicht auf den Durchschnittsbürger auswirken. Es muss nicht einmal moderne Chatbots abschaffen oder die Branche für selbstfahrende Autos lahmlegen.

Die meisten Menschen kaufen nicht Dutzende von hochmodernen KI-GPUs und stellen sie in ihrer Garage unter. Die meisten Menschen betreiben keine riesigen Rechenzentren. Die meisten Menschen würden die Auswirkungen eines Verbots der KI-Forschung und -Entwicklung gar nicht spüren. Es wäre nur so, dass sich ChatGPT nicht mehr so oft ändern würde.

Die Menschheit müsste nicht einmal aufhören, alle aktuellen KI-Tools zu nutzen. ChatGPT müsste nicht verschwinden. Wir könnten weiter darüber nachdenken, wie wir es in unser Leben und unsere Wirtschaft integrieren können. Das wäre immer noch mehr Veränderung, als die Welt seit Generationen gewohnt ist. Wir würden zwar auf die neuen KI-Entwicklungen verzichten müssen (die Art von Entwicklungen, die dazu führen würden, dass KI intelligenter wird, aber noch nicht intelligent genug, um alle Menschen zu töten), aber die Gesellschaft verlangt größtenteils nicht nach solchen Entwicklungen.

Und wir könnten weiterleben. Wir könnten unsere Kinder aufwachsen sehen.

Entwicklungen, die von den Menschen gefordert werden, wie beispielsweise die Entwicklung neuer, lebensrettender Medizintechnik, scheinen auch ohne die Entwicklung von Superintelligenz möglich zu sein. Wir befürworten Ausnahmeregelungen für medizinische KI, solange diese unter angemessener Aufsicht funktionieren und keine gefährliche Verallgemeinerung darstellen.

Regierungen, die sich dafür einsetzen, die Entstehung einer bösartigen Superintelligenz zu verhindern, müssten sicherstellen, dass KI-Chips nicht zur Entwicklung leistungsfähigerer KIs verwendet werden. Daher würde die Frage, welche KI-Aktivitäten und -Dienste weiterhin erlaubt wären, davon abhängen, welche Verifizierungsmechanismen eingesetzt werden könnten, um sicherzustellen, dass keine gefährliche KI-Entwicklung stattfindet. Bessere Verifizierungsmechanismen könnten die Kosten für die Einstellung der KI-Entwicklung senken, da sie die Fortsetzung einer größeren Bandbreite von Aktivitäten ermöglichen würden.

Ein weiterer Schritt, der möglicherweise am Rande helfen könnte, ist die Installation von Kill-Switches in KI-Chips und die Einrichtung von Überwachungs- und Notabschaltprotokollen für alle großen Rechenzentren, die in Betrieb sind.^* Kernreaktoren sind so konstruiert, dass sie im Notfall schnell abgeschaltet werden können. Wenn Sie der Meinung sind, dass Superintelligenz eine existenzielle Bedrohung darstellt, dann liegt es auf der Hand, dass KI-Chips und Rechenzentren so konstruiert sein sollten, dass sie von den Aufsichtsbehörden schnell abgeschaltet werden können.

Es geht nicht darum, alle Technologien zu verbrennen, weil wir Technologie hassen.^† Es geht darum, zu vermeiden, dass wir weiter auf einem Weg sind, der zum Aussterben der Menschheit führt.

Ein großer Teil des Problems besteht darin, dass die Menschen die drohende Gefahr durch künstliche Superintelligenz nicht verstehen.

Unserer Erfahrung nach verstehen diejenigen, die argumentieren, dass die Menschheit den Wettlauf um Superintelligenz nicht aufhalten kann, einfach nicht, dass, wenn jemand sie entwickelt, alle sterben werden.

"Aber KI bietet doch enorme Vorteile!" – Nein, eigentlich nicht; man kann die Leistungsfähigkeit der Superintelligenz nicht nutzen, wenn sie einfach alle Menschen tötet. Wenn die Menschheit die Vorteile der künstlichen Superintelligenz nutzen will, muss sie einen Weg finden, den Übergang zur Superintelligenz zu bewältigen, ohne dass dabei alle Menschen als Nebeneffekt getötet werden.

"Aber Atomkraftwerke sind beängstigend, weil sie mit Atombomben in Verbindung gebracht werden, die Städte dem Erdboden gleichgemacht haben, während KI mit harmlosen Tools wie ChatGPT in Verbindung gebracht wird!" – Das stimmt, zumindest im Moment. Wenn die Menschheit nie versteht, dass künstliche Superintelligenz, die mit modernen Methoden entwickelt wurde, einfach alle töten würde, dann wird sie vielleicht nichts dagegen unternehmen. Das Hindernis dabei ist jedoch nicht, dass die Menschheit es nie schafft, aufkommende Technologien (wie Atomwaffen oder Atomkraft) zu kontrollieren oder zu behindern, sondern dass die Menschen die Gefahr nicht verstehen.

Deshalb dieses Buch. Wie wir im letzten Kapitel diskutieren, ist die Menschheit zu vielem fähig, wenn genügend Menschen die Natur des Problems verstehen.