Nein. Es wird eine andere Ausstiegsmöglichkeit benötigt werden.

Der Fortschritt in der KI-Forschung lässt sich wahrscheinlich nicht vollständig aufhalten. Mit genügend Zeit würden Forscher wahrscheinlich irgendwann viel effizientere Methoden zur Entwicklung von KIs finden.^* Oder vielleicht würde es mit genügend Zeit irgendwann einem skrupellosen Akteur gelingen, ein Verbot zu unterlaufen.

Die Zeit wird die Menschheit höchstwahrscheinlich auf die eine oder andere Weise in die Zukunft ziehen. Und die Menschheit wird entweder aussterben, wie die meisten Arten vor ihr, oder irgendwie den Übergang in eine Welt bewältigen, in der intelligentere Wesen existieren.

Aber die Menschheit muss auch nicht ewig Zeit gewinnen. KI ist nicht die einzige Technologie, die Fortschritte macht. Auch die Biotechnologie beginnt zu reifen, und wenn es der Menschheit gelingt, die Entwicklung superintelligenter Maschinen über mehrere Jahrzehnte hinweg zu verhindern, wird sie sich mit Umwälzungen wie der Gentechnik auseinandersetzen müssen, die zu deutlich intelligenteren Menschen führt.

Die Frage ist, wie viel Zeit wir gewinnen können und was wir mit dieser Zeit anfangen können.

Das grundlegende Problem, mit dem die Menschheit konfrontiert ist, besteht darin, die Kluft zwischen menschlicher Intelligenz und Superintelligenz sicher zu überwinden. Der beste Plan, den wir uns vorstellen können und der in der Realität vielleicht eine Chance auf Erfolg hat, besteht darin, Zeit zu gewinnen, damit die Biotechnologie die menschliche Intelligenz so weit steigern kann, dass zukünftige Forscher so intelligent werden, dass sie beispielsweise niemals davon ausgehen würden, dass ein Ingenieursprojekt pünktlich und unter Budget abgeschlossen wird, wenn dies nicht tatsächlich der Fall wäre.

So intelligent, dass sie sich niemals auf eine wissenschaftliche Theorie wie den Aristotelismus oder den Heliozentrismus festlegen würden, selbst wenn die sie umgebende Gesellschaft davon vollkommen überzeugt wäre. So intelligent, dass sie die Chance hätten, die Kluft zwischen Vorher und Nachher beim ersten Versuch zu überwinden.

Es gibt noch andere mögliche Wege, die wir uns vorstellen könnten, aber dieser hat den Vorteil, dass er den entscheidenden Engpass ("die bestehende wissenschaftliche Gemeinschaft ist zu sehr auf Trial-and-Error-Methoden und Inkrementalismus angewiesen, um dieses spezielle Problem zu lösen") mit Technologien angeht, die bereits heute verfügbar sind, ohne ein ernsthaftes Risiko für die Welt darzustellen.

Ein Überwachungssystem sollte nicht ewig bestehen bleiben.

Theoretisch ist es möglich, dass die Menschheit für immer auf dem schmalen Grat der Kompetenz balanciert, auf dem wir uns derzeit befinden. Wir vermuten, dass dies eine drakonische Kontrolle der Gedanken und Aktivitäten der Menschen erfordern würde. Aber selbst wenn dies nicht der Fall wäre, würden wir es für eine schlechte Wahl halten.

Wir persönlich sind der Meinung, dass die Nachkommen der Menschheit es verdienen, das zu werden, was sie sein möchten, die Sterne zu erforschen und dort eine blühende und schöne Zivilisation aufzubauen. Wir befürworten ein Verbot der Entwicklung von KI an der Grenze, weil wir der Meinung sind, dass Superintelligenz gefährlich genug ist, um dies notwendig zu machen und nicht weil wir KI, Technologie oder wissenschaftlichen Fortschritt hassen.

Die eigentliche Frage ist, wie wir zu einer wunderbaren Zukunft gelangen und wie wir den Übergang von hier dorthin bewältigen.

Dies ist unter anderem deshalb hervorzuheben, weil viele Menschen KI als falsche Dichotomie darstellen: Sie behaupten (fälschlicherweise), dass die Gesellschaft entweder die Risiken der KI akzeptieren und mit voller Kraft voranschreiten oder die KI ablehnen und unsere Zivilisation für immer auf einem einzigen Planeten aussterben lassen muss. Das ist schlichtweg falsch. Es gibt andere Wege in die Zukunft, die eine ebenso strahlende Zukunft ermöglichen, aber ohne das hohe Risiko, alles für nichts zu verspielen. Die Menschheit sollte einen anderen Weg in die Zukunft finden.