Weil die Situation wirklich ernst und dringend erscheint.

Wenn man sich mit einem Thema sorgfältig auseinandersetzt, kann man manchmal eine Wendung der Geschichte voraussehen.

Im Jahr 1933 war der Physiker Leo Szilard der erste, der erkannte, dass nukleare Kettenreaktionen möglich sind.^* Damit erlangte er die Fähigkeit, eine der Wendungen der Geschichte früher als alle anderen vorherzusagen.

Wir glauben, dass man heute, wenn man KI aus der richtigen Perspektive betrachtet, eine der Wendungen der Geschichte kommen sehen kann. Und wir glauben, dass die Ereignisse einen schlechten Verlauf nehmen werden, wenn die Menschheit ihren Kurs nicht ändert.

KI-Labore wetteifern darum, Maschinen zu bauen, die intelligenter sind als jeder Mensch, und sie scheinen dabei bedeutende Fortschritte zu erzielen. Wie wir in den folgenden Kapiteln besprechen werden, sind moderne KIs eher gezüchtet als konstruiert. Sie zeigen Verhaltensweisen, die niemand gefordert hat und niemand wollte, und sie sind auf dem besten Weg, leistungsfähiger zu werden als jeder Mensch. Das erscheint uns als eine äußerst gefährliche Situation.

Führende Wissenschaftler auf diesem Gebiet haben sich zusammengeschlossen und einen offenen Brief unterzeichnet, in dem sie die Öffentlichkeit warnen, dass die Bedrohung durch KI als "globale Priorität neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkriegen" behandelt werden sollte. Dies ist keine isolierte Sorge, sondern wird von fast der Hälfte der Fachwelt geteilt. Selbst wenn Sie den Gefahren zunächst skeptisch gegenüberstehen, hoffen wir, dass die von KI-Experten geäußerte Besorgnis und die hohen Risiken, sollten sich diese Befürchtungen als richtig erweisen, deutlich machen, warum dieses Thema ernsthaft diskutiert werden muss.

Dies ist ein Thema, bei dem wir die Argumente abwägen sollten, anstatt nur unserer ersten Intuition zu folgen. Wenn die Briefe und Warnungen Recht haben, dann hat sich die Welt in eine unglaublich gefährliche Lage gebracht. Im weiteren Verlauf des Buches werden wir die Argumente und Beweislage hinter diesen Warnungen darlegen.

Wir glauben nicht, dass die Situation hoffnungslos ist. Wir haben dieses Buch in der Hoffnung geschrieben, den Kurs zu ändern, auf dem sich die Menschheit zu befinden scheint, denn wir glauben, dass es Hoffnung gibt, dass wir dieses Problem lösen können.

Der erste Schritt zur Lösung eines Problems besteht darin, es zu verstehen.