Nein.

Im gesamten Buch haben wir unsere Argumente dafür dargelegt, dass ein überstürzter Vorstoß in Richtung KI wahrscheinlich zum Tod von uns allen führen wird. In Kapitel 3 haben wir erörtert, wie KI ihre eigenen Triebe und Ziele haben wird. In den Kapiteln 4 und 5 haben wir diskutiert, warum KI wahrscheinlich Ziele verfolgen wird, die niemand beabsichtigt hat, und in Kapitel 6 haben wir dargelegt, wie maschinelle Superintelligenzen nicht nur ein Motiv, sondern auch die Mittel haben werden, uns alle zu töten.

Dies sind die Art von Behauptungen, die Sie bitte berücksichtigen sollten, wenn Sie entscheiden, ob der Wettlauf um Superintelligenz gestoppt werden sollte. Man kann nicht herausfinden, ob die KI-Forschung darauf hinausläuft, uns alle zu töten, indem man endlos über die Pläne von Unternehmensführern diskutiert.

Versuchen die CEOs, mit ihren Äußerungen zum "KI-Risiko" einen Hype zu erzeugen?

Oder versuchen sie, besorgten Forschern und Gesetzgebern zu schmeicheln und sich als "die Guten" zu positionieren?

Diese Fragen haben keinen Einfluss auf die Fakten darüber, wie intelligente Maschinen sich verhalten würden.

Selbst wenn die KI-CEOs bestrebt sind, Diskussionen über Gefahren zu nutzen, um ihr Produkt zu bewerben, bedeutet das nicht, dass ihre Arbeit deshalb harmlos ist. Um herauszufinden, ob sie gefährlich ist, muss man sich mit der KI selbst als Technologie befassen und nicht mit den Pressemitteilungen, die aus den Labors kommen.

Jahre bevor diese Unternehmen existierten, gab es Forscher und Wissenschaftler ohne jegliche Unternehmensinteressen, darunter auch wir, die vor einem Wettlauf um die Entwicklung einer KI warnten, die intelligenter als der Mensch ist. Wir sprachen mit Sam Altman und Elon Musk, bevor sie OpenAI gründeten, und sagten ihnen, dass die Idee, OpenAI zu gründen, töricht sei und wahrscheinlich die Gefahr erhöhen würde. Wir sprachen mit Dario Amodei, bevor er zu OpenAI kam, und rieten ihm von seinem unermüdlichen Bestreben ab, KI zu skalieren (ein Projekt, das zu LLMs führen würde).

Und wenn man sich die heutigen Meldungen ansieht, äußern viele Menschen ohne Unternehmensanreize ihre Besorgnis. Dazu gehören angesehene Wissenschaftler, der verstorbene Papst, der Vorsitzende der FTC^* und Mitglieder des US-Kongresses.

Es spricht einiges dafür, die Äußerungen von Tech-CEOs mit Skepsis zu betrachten. Es gibt zahlreiche Beispiele dafür, dass Führungskräfte von KI-Unternehmen mit gespaltener Zunge sprechen, indem sie in privaten Blogbeiträgen etwas anderes sagen als bei ihrer Aussage vor dem Kongress. Aber von "die Leiter dieser Labore sind Lügner" zu "es ist unmöglich, dass KI eine ernsthafte Bedrohung darstellt" zu springen, ist sehr seltsam, wenn die Labore selbst dieses Thema regelmäßig herunterspielen. Der Nobelpreisträger und so genannte "Godfather" dieses Forschungsgebiets, der meistzitierte lebende Wissenschaftler, eine stetige Flut von Whistleblowern und Hunderte von sichtlich nervösen Forschern schlagen Alarm. Nichts an dieser Situation sieht nach einem gewöhnlichen Hype-Zyklus in der Unternehmenswelt aus. Unter solchen Umständen erscheint es eher naiv als zynisch, diese Idee abzulehnen, ohne sich überhaupt mit den Argumenten auseinanderzusetzen.

Fragen wie "Können CEOs mehr Geld einwerben, wenn sie über die Gefahren sprechen?" geben uns zwar einen kleinen Einblick, wie sehr wir den CEOs vertrauen können, aber sie sagen nichts über die Gefahren selbst aus. Wenn es profitabel ist, über Gefahren zu sprechen, hat das keinen Einfluss darauf, ob die Gefahr real ist. Wenn es unprofitabel ist, hat das ebenfalls keinen Einfluss darauf, ob sie real ist.

Wenn Sie herausfinden wollen, ob die Gefahren real sind, müssen Sie Fragen stellen wie "Kann jemand eine KI entwickeln, die sich auch nach dem Übertreffen der menschlichen Intelligenz freundlich verhält?" und sich ansonsten mit Argumenten über KI auseinandersetzen, anstatt mit Argumenten über die Menschen, die in der Nähe stehen. Letztendlich bitten wir Sie also, sich mit den Argumenten selbst auseinanderzusetzen. Die Folgen einer falschen Einschätzung sind zu hoch.

Notes