Das hängt davon ab, wie (und wie schnell) sie sich einmischen.

Wenn wir Washington, DC, besuchen, treffen wir oft politische Entscheidungsträger, die glauben, dass die KI-Unternehmen ihre KIs unter Kontrolle haben. Gleichzeitig sehen wir regelmäßig Leute aus der KI-Branche, die sagen, dass Regulierung das Problem lösen wird. Ein besonders krasses Beispiel, das wir beobachtet haben, war der CEO von Google, der sagte, dass das "zugrundeliegende Risiko [der Auslöschung der Menschheit] tatsächlich ziemlich hoch ist", aber argumentierte, dass je höher das Risiko wird, desto wahrscheinlicher ist es, dass sich die Menschheit zusammenschließt, um eine Katastrophe zu verhindern.

Abgesehen davon, wie verrückt es ist, dass der CEO eines Unternehmens darauf hinarbeitet, eine Technologie zu entwickeln, die seiner Meinung nach alle Menschen auf der Erde gefährdet, in der Hoffnung, dass die Menschheit sich "zusammentut", um die Risiken zu bewältigen, zu deren Entstehung er selbst beiträgt, ist dies ein Fall, in dem eine Person auf der technischen Seite des Problems davon ausgeht, dass jemand anderes das Problem lösen wird.

Unterdessen scheinen die meisten Politiker zu glauben, dass die technische Gemeinschaft das Problem lösen wird. Dies wird beispielsweise jedes Mal impliziert, wenn sie sagen, dass wir das Wettrennen gewinnen müssen. Es ist jedoch nicht möglich, dass es in einem solchen Wettrennen einen Gewinner gibt, wenn die technischen Herausforderungen nicht gelöst werden. Vielleicht ist es aber gar nicht so schlimm: Vielleicht denken die politischen Entscheidungsträger gar nicht an einen Wettlauf um Superintelligenz, sondern nur an einen Wettlauf um bessere Chatbots. Im Juni 2025 beschreibt ein uns bekannter KI-Politikberater den Kongress als allgemein ungläubig gegenüber den KI-Unternehmen, wenn diese ausdrücklich sagen, dass sie an Superintelligenz arbeiten (wenn auch mit einigen wichtigen Ausnahmen).

Fast alle Machthaber scheinen davon auszugehen, dass jemand anderes das Problem lösen wird.

Weitere Informationen darüber, wie die Welt insgesamt reagiert (und wie Entscheidungsträger oft versäumen, vor Katastrophen angemessen zu reagieren), finden Sie in Kapitel 12. Im August 2025 haben die Regierungen noch keine ernsthafte Antwort auf dieses Problem gefunden. Und es besteht immer das Risiko, dass Regierungsbeamte die Herausforderung nicht vollständig verstehen und KI beispielsweise als normale Technologie behandeln, die nicht durch Überregulierung behindert werden sollte.

Weitere Informationen darüber, welche staatlichen Maßnahmen wirklich Hoffnung auf die Abwendung einer KI-Katastrophe geben, finden Sie in Kapitel 12. Die Online-Ressourcen zu Kapitel 12 enthalten auch eine Diskussion darüber, warum eine internationale Zusammenarbeit wahrscheinlich nicht ausreichen würde.