Nicht, wenn sie die Bedrohung verstehen.

Wir sprechen hier von einer Technologie, die jeden Menschen auf dem Planeten töten würde. Wenn ein Land das Problem ernsthaft verstehen würde und ernsthaft verstehen würde, wie weit jede Gruppe auf dem Planeten davon entfernt ist, KI dazu zu bringen, den Absichten ihrer Betreiber zu folgen, selbst nach dem Übergang zu einer Superintelligenz, dann gäbe es für sie keinen Anreiz, voranzueilen. Auch sie würden aus Angst um ihr eigenes Leben verzweifelt darauf bedacht sein, einen Vertrag zu unterzeichnen und zu dessen Durchsetzung beizutragen.

Selbst Nationen wie Nordkorea, die sich über das Völkerrecht hinweggesetzt haben, um eigene Atomwaffen zu entwickeln, haben diese Waffen nicht gegen ihre Feinde eingesetzt, weil sie verstehen, dass es in einem nuklearen Holocaust keine Gewinner gibt. Nationen und ihre Führer betreiben manchmal Risikopolitik oder führen Kriege, aber sie streben nicht aktiv nach ihrer eigenen Zerstörung.

Menschen, die sich vorstellen, dass eine fremde Nation aus dem Vertrag austreten würde, stellen sich unserer Meinung nach eine Nation vor, deren Führer die Bedrohung einfach nicht verstehen. Wir glauben, dass sie sich ein Szenario vorstellen, in dem KI eine 95-prozentige Chance hat, ihrem Schöpfer großen Reichtum und Macht zu verschaffen, und eine 5-prozentige Chance, alle Menschen zu töten. In diesem Fall könnte es natürlich sein, dass ein Nationalstaat leichtsinnig genug ist, es zu versuchen. Und vielleicht wird ein Nationalstaat glauben, dass die Chancen so stehen.

Wir glauben, dass diese Situation nicht das ist, was die Theorie und die Beweise nahelegen. Wie wir in diesem Buch ausführlich dargelegt haben, deuten die Theorie und die Beweise darauf hin, dass diese Technologie schlichtweg globalen Selbstmord bedeuten würde. Niemand ist auch nur annähernd in der Lage, die Superintelligenz von Maschinen zum Nutzen der Menschheit einzusetzen. Wenn die meisten Länder dies verstehen würden, gäbe es für Schurkenstaaten viel weniger Gründe, gegen einen Vertrag zu verstoßen. Auch sie wollen nicht sterben.

Und selbst wenn ein hypothetischer Schurkenstaat einen Führer hat, der die von ASI ausgehende Bedrohung wirklich nicht versteht, können die betroffenen Weltmächte eingreifen und die Anreizstruktur für die Schurkenmacht verändern, wenn dieser Staat von einer internationalen Allianz der Weltmächte umgeben ist, die sich der Bedrohung bewusst sind.

Wenn (zum Beispiel) die Staats- und Regierungschefs der Vereinigten Staaten, Chinas, Russlands, Deutschlands, Japan und des Vereinigten Königreichs wirklich davon überzeugt sind, dass ihr eigenes Überleben davon abhängt, dass niemand eine Superintelligenz aufbaut, und sie in ihrer Kommunikation klar zum Ausdruck bringen, dass sie jeden Versuch, eine Superintelligenz aufzubauen, als Bedrohung für ihr Leben und ihren Lebensunterhalt betrachten und dass sie bereit sind, zur Selbstverteidigung zu reagieren, dann würde selbst ein Weltführer, der anderer Meinung ist, wahrscheinlich nicht sein Glück gegen diese Koalition versuchen wollen.

Die Entwicklung von KI ist kein Wettlauf um militärische Vorherrschaft, sondern ein Wettlauf in den Selbstmord. Wir glauben, dass die Staats- und Regierungschefs der Welt, wenn sie dies verstehen und sie damit rechnen, dass sie selbst und ihre Kinder daran sterben werden, sich dann aufrichtig an einen Vertrag halten und aufrichtig zu dessen Durchsetzung beitragen werden.

Es ist eigentlich nicht so schwer zu verstehen, dass die Entwicklung von Maschinen, die intelligenter sind als die gesamte Menschheit zusammen, die Welt in den Abgrund stürzen könnte. Es ist nicht schwer zu erkennen, wie wenig die Menschheit über die intelligenten Maschinen versteht, die wir bauen, wenn man einmal lange genug innehält, um sich diese Frage ernsthaft zu stellen. Wir glauben, dass es fraglich ist, ob die Staats- und Regierungschefs der Welt diese Tatsachen glauben werden. Aber wenn sie es tun, halten wir es nicht für unrealistisch, diesen Selbstmordkurs zu stoppen.

Ein Vertrag würde eine echte Überwachung und Durchsetzung erfordern.

Selbst wenn die meisten Nationen verstehen würden, dass alle sterben, wenn jemand sie baut, könnten einige Nationen dies nicht verstehen und rücksichtslos genug sein, um trotzdem mit dem Bau maschineller Superintelligenz fortzufahren.

Überwachung ist notwendig. Durchsetzung ist notwendig. Verträge über nukleare, biologische und chemische Waffen bieten einige Präzedenzfälle für Möglichkeiten zur Überprüfung der Einhaltung. Wir können und sollten Anstrengungen unternehmen, um die Umgehung dieser Verträge schwierig und kostspielig zu machen.

Ein internationales Verbot von KI an der Grenze muss strikt durchgesetzt werden. Wenn ein Nationalstaat entschlossen ist, trotz internationalen Drucks weiterzumachen, könnte der Einsatz militärischer Gewalt durch die Unterzeichnerstaaten erforderlich sein.

Das ist nicht ideal! Es sollte alles getan werden, um deutlich zu machen, dass in solchen Situationen Gewalt angewendet wird, um Fehleinschätzungen zu vermeiden, wenn Gewalt tatsächlich angewendet werden muss. Aber wenn es einen Grund gibt, der begrenzte militärische Maßnahmen rechtfertigen könnte, oder sogar einen Krieg, wenn eine nicht konforme Nation sich für eine Eskalation entscheidet, dann sollte die Rettung der Menschheit dazu gehören.

Diese Methode hat sich bereits bewährt.

Seit der Entwicklung der Atombombe sind über achtzig Jahre vergangen, und die Menschheit hat die Verbreitung von Atomwaffen recht gut unter Kontrolle gehalten. Entgegen den Vorhersagen vieler Experten nach dem Zweiten Weltkrieg gab es keinen groß angelegten Atomkrieg.

Im Juni 2025 führte die US-Regierung sogar einen begrenzten Angriff auf den Iran durch, um dessen Fähigkeit zur Herstellung von Atomwaffen zu unterbinden. Diese Art von Vertrag und Durchsetzungsmechanismus hat in der Weltordnung Präzedenzfälle.

Wenn wir uns achtzig Jahre Zeit bis zur Entwicklung der ASI verschaffen könnten, wäre das vielleicht schon genug.