Die Macht, gefährliche Technologien zu verbieten, liegt bereits bei den Regierungen.

Ein Verbot der KI-Forschung auf dem Weg zu einer KI, die intelligenter ist als der Mensch, würde hinsichtlich der Staatsmacht keinen großen Unterschied machen. Regierungen erlassen Gesetze und regulieren eine enorme Anzahl von Dingen. Die Einschränkung eines einzelnen Forschungsprogramms ist für die KI-Branche möglicherweise eine große Sache, aber für Regierungen und die Gesellschaft, die an staatliche Eingriffe in viele Bereiche des Lebens gewöhnt sind und bereits Erfahrung mit dem Verbot gefährlicher Technologien wie chemischer Waffen haben, ist es nur ein Tropfen auf den heißen Stein.^*

Das Verbot einer weiteren Technologie wird die Welt nicht in den Totalitarismus stürzen, genauso wenig wie Atomwaffenabkommen zum Totalitarismus geführt haben.

Das soll nicht heißen, dass das Verbot einer Technologie keine große Sache ist. Wir sind nicht der Meinung, dass die Hürde für staatliche Eingriffe niedrig sein sollte. Vielmehr glauben wir, dass Superintelligenz jede vernünftige Hürde locker nimmt.

Wenn die Menschheit heute beschließen würde, die Forschung und Entwicklung im Bereich der KI zu stoppen, müsste das Verbot nicht besonders einschneidend sein. Heute erfordert die Entwicklung einer hochmodernen KI eine außergewöhnliche Anzahl hochspezialisierter Computerchips, die enorme Mengen an Strom verbrauchen.

Vielleicht wird es in zehn Jahren möglich sein, sinnvolle KI-Entwicklungen auf einem handelsüblichen Laptop durchzuführen, wenn die Menschheit weitere Verbesserungen bei Computerchips und weitere Forschungen zu KI-Algorithmen zulässt. Aber die Menschheit muss das nicht zulassen. Regierungen, die die KI-Forschung und -Entwicklung einschränken, müssen nicht stärker in das Leben des Durchschnittsbürgers eingreifen als Regierungen, die die Verbreitung von Atomwaffentechnologie kontrollieren, solange die Welt die Situation, in der wir uns befinden, erkennt und jetzt einen Stopp durchführt.