Eine wachsende Zahl hat dies bereits getan.

Beispiele hierfür sind:

"Wir müssen sehr vorsichtig damit sein, nicht wahr? Wir müssen es beobachten. [...] Wissen Sie, es gibt Leute, die sagen, dass es die Macht übernimmt, dass es die Menschheit übernimmt. KI ist wirklich eine mächtige Sache."

"Die heutige Diskussion wird wahrscheinlich einige der drängenden Fragen im Zusammenhang mit hochleistungsfähigen KI-Systemen behandeln: [...] Der Drang, eine künstliche allgemeine Intelligenz oder superintelligente KI zu entwickeln, die so mächtig und leistungsfähig wäre, dass wir sie als "digitalen Gott" betrachten würden. [...] Ich hoffe, dass wir uns heute mit den konkreten politischen Lösungen befassen werden, die notwendig sind, um die langfristigen Risiken der KI und die potenziellen Weltuntergangsszenarien abzuwenden."

"Künstliche Intelligenz ist die größte technologische Bedrohung, mit der wir seit der Erfindung der Atombombe konfrontiert sind."

"Und nun bietet die künstliche allgemeine Intelligenz oder AGI, mit der sich unsere Zeugen heute befassen werden, noch beängstigendere Aussichten auf Schaden. Die Vorstellung, dass AGI in 10 oder 20 Jahren intelligenter oder zumindest genauso intelligent wie ein Mensch sein könnte, ist nicht mehr so weit in der Zukunft. Das ist weit entfernt von Science-Fiction. Es ist hier und jetzt. Die jüngste Prognose vor diesem Ausschuss lautet sogar ein bis drei Jahre. Und wir wissen, dass künstliche Intelligenz, die so intelligent ist wie Menschen, auch in der Lage ist, uns zu täuschen, zu manipulieren und Fakten vor uns zu verbergen, und dass sie in Kriegsführung, sei es Cyberkrieg, Atomkrieg oder einfach Krieg auf dem Schlachtfeld, einen eigenen Willen hat."

"Wenn wir diese Chance verpassen, werden die Folgen für kommende Generationen spürbar sein. Was heute als generative KI beginnt, könnte eines Tages zu künstlicher allgemeiner Intelligenz werden. Eine wilde, unregulierte KI-Industrie, die niemandem Rechenschaft schuldig ist und künstliche allgemeine Intelligenz entwickelt, sollte uns alle zum Handeln bewegen."

Wir glauben, dass das größte Hindernis für die Menschen, diese Bedrohung zu erkennen, darin besteht, sie dazu zu bringen, sie zu verstehen. In den wenigen Monaten, seit das Buch in den Druck gegangen ist, scheint uns, dass die Welt bereits weitere Fortschritte in diese Richtung gemacht hat.

Hier sind einige Aussagen von US-Politikern beider Lager aus dem Sommer 2025:

"Einige Experten warnen, dass wir nur noch wenige Jahre von der Entstehung künstlicher allgemeiner Intelligenz, oder der Singularität, entfernt sind. Andere argumentieren, dass die Technologie inhärente Grenzen hat und wir noch Jahrzehnte von der Singularität entfernt sind, wenn sie überhaupt möglich ist. Wir wissen nicht mit Sicherheit, wie die Zukunft der KI aussehen wird. Aber ich weiß, dass die Zukunft zu wichtig ist, um sie dem Zufall zu überlassen. Wir müssen unser Bestes tun, um zu verstehen, welche Auswirkungen KI auf unsere Wirtschaft und Gesellschaft haben kann, und jetzt, bevor es zu spät ist, mögliche Lösungen entwickeln."

"Künstliche Superintelligenz ist eine der größten existenziellen Bedrohungen, denen wir derzeit gegenüberstehen. […] Sollten wir auch befürchten, dass autoritäre Staaten wie China oder Russland die Kontrolle über ihre eigenen fortschrittlichen Systeme verlieren könnten? […] Und ist es möglich, dass ein Kontrollverlust durch einen Nationalstaat, einschließlich unseres eigenen, zur Entstehung eines unabhängigen AGI- oder ASI-Akteurs führen könnte, mit dem wir uns weltweit auseinandersetzen müssen?"

"Ich stimme nicht für die Entwicklung von Skynet und den Aufstieg der Maschinen, indem ich den Föderalismus für 10 Jahre zerstöre, indem ich den Bundesstaaten das Recht nehme, alle KI zu regulieren und Gesetze zu erlassen."

"Branchenführer haben öffentlich die Entwicklung immer leistungsfähigerer künstlicher Intelligenzsysteme anerkannt, wobei einige das Potenzial für künstliche allgemeine Intelligenz und Superintelligenz diskutieren, die die Gesellschaft der Vereinigten Staaten grundlegend verändern könnten."

"Im vergangenen Monat wurde berichtet, dass der Chefwissenschaftler von Open AI "einen Bunker bauen wollte, bevor wir AGI freigeben". [...] Anstatt Bunker zu bauen, sollten wir jedoch sicherere KI entwickeln. Ob es sich nun um amerikanische oder chinesische KI handelt, sie sollte erst freigegeben werden, wenn wir wissen, dass sie sicher ist."

"Das ist etwas, das wir richtig machen müssen, und wir haben nur einen Versuch. Es herrscht weitgehende Einigkeit darüber, dass es zu einer Fluchtgeschwindigkeit kommen wird, sobald die KI-Fähigkeiten eine bestimmte Schwelle überschreiten, sei es durch rekursive Selbstverbesserung oder durch eine andere Schwelle. Das hat Auswirkungen auf den engeren geopolitischen Kontext, in dem es darum geht, welches Land in dieser Technologie führend ist, aber auch auf die allgemeinere Frage: ‚Wird diese Technologie im Einklang mit der Menschheit stehen und ihr zugutekommen?‘"

"Je tiefer wir uns damit beschäftigen, desto mehr wird uns bewusst, dass der Wettlauf um die Vorherrschaft in der KI auch ein Wettlauf um den ersten Kontrollverlust sein könnte." (Und: "Solange es wirklich nachdenkliche Menschen wie Dr. Hinton und andere gibt, die sich über die existenziellen Risiken der künstlichen Intelligenz, nämlich das Ende der Menschheit, Sorgen machen, können wir es uns meiner Meinung nach nicht leisten, dies zu ignorieren.")

"Es gibt sehr, sehr sachkundige Menschen und ich habe gerade heute mit einem gesprochen, die große Sorge haben, dass die Menschen nicht in der Lage sein werden, die Technologie zu kontrollieren, und dass künstliche Intelligenz tatsächlich unsere Gesellschaft dominieren wird. Wir werden sie nicht kontrollieren können. Sie könnte uns kontrollieren. Das ist sozusagen das Weltuntergangsszenario und unter sehr sachkundigen Menschen in der Branche gibt es diesbezüglich einige Bedenken."

Weitere bemerkenswerte Aussagen sind:

"Die Alarmglocken über die neueste Form der künstlichen Intelligenz, die generative KI, sind ohrenbetäubend. Und am lautesten sind sie bei den Entwicklern, die sie entworfen haben. Diese Wissenschaftler und Experten haben die Welt zum Handeln aufgerufen und KI zu einer existenziellen Bedrohung für die Menschheit erklärt, die mit dem Risiko eines Atomkrieges vergleichbar ist. Wir müssen diese Warnungen ernst nehmen."

Es sind noch viele Fortschritte erforderlich, aber die Welt beginnt, darauf aufmerksam zu werden. Die Zeit ist reif, um die Verantwortlichen auf die Notwendigkeit rascher Maßnahmen auf Bundes- und internationaler Ebene aufmerksam zu machen.