Zu wissen, dass eine Technologie kommt, bedeutet nicht, dass man weiß, wann genau sie kommt.

Viele der Dinge, um deren Vorhersage wir gebeten werden, können wir tatsächlich unmöglich wissen. Als Leo Szilard 1939 einen Brief schrieb, in dem er die USA vor Atomwaffen warnte, konnte er keine Aussage wie "Die erste Atomwaffe wird in sechs Jahren für Testzwecke einsatzbereit sein" machen.

Das wäre eine sehr wertvolle Information gewesen! Aber selbst wenn man wie Szilard der Erste ist, der Kernkettenreaktionen richtig vorhersagt, also selbst wenn man der Erste ist, der erkennt, dass eine Technologie möglich ist und Folgen haben wird, kann man nicht genau vorhersagen, wann diese Technologie verfügbar sein wird.

Es gibt sichere Vorhersagen und unsichere Vorhersagen. Wir geben nicht vor, unsichere Vorhersagen machen zu können, wie zum Beispiel, wann genau die gefährliche Art von KI entwickelt werden wird.

Experten sind immer wieder überrascht, wie schnell die KI Fortschritte macht.

Nicht zu wissen, wann KI kommen wird, ist nicht dasselbe wie zu wissen, dass es noch lange dauern wird.

Im Jahr 2021 schätzte die Prognosegemeinschaft auf der Vorhersage-Website Metaculus, dass die erste "wirklich allgemeine KI" im Jahr 2049 kommen würde. Ein Jahr später, im Jahr 2022, war diese aggregierte Prognose der Gemeinschaft um zwölf Jahre auf 2037 gesunken. Ein weiteres Jahr später, im Jahr 2023, war sie um weitere vier Jahre auf 2033 gesunken. Immer wieder wurden die Prognostiker vom rasanten Fortschritt der KI überrascht, sodass ihre Zeitschätzungen von Jahr zu Jahr stark variierten.

Dieses Phänomen ist nicht auf Metaculus beschränkt. Eine Organisation namens 80,000 Hours dokumentiert verschiedene andere Fälle von sich rapide verkürzenden Zeitplänen vieler Gruppen von Expertenprognostikern. Und selbst Superprognostiker, die regelmäßig Prognosewettbewerbe gewinnen und oft sogar Fachleute in ihrer Fähigkeit, die Zukunft vorherzusagen, übertreffen, schätzten die Wahrscheinlichkeit, dass KI bis zum Jahr 2025 die Goldmedaille bei der Internationalen Mathematik-Olympiade gewinnen würde, auf nur 2,3 %. Im Juli 2025 gewannen KIs die Goldmedaille bei der Internationalen Mathematik-Olympiade.

KI, die intelligenter ist als Menschen, scheint intuitiv noch Jahrzehnte entfernt zu sein, aber KI auf ChatGPT-Niveau schien 2021 auch noch Jahrzehnte entfernt zu sein, und dann war sie plötzlich da. Wer weiß, wann neue qualitative Verbesserungen der KI plötzlich eintreten werden? Vielleicht dauert es noch weitere zehn Jahre. Oder vielleicht kommt es morgen schon zu einem großen Durchbruch. Wir wissen nicht, wie lange es dauern wird, aber eine Reihe von Forschern ist zunehmend besorgt, dass die Zeit knapp werden könnte. Ohne besondere Kenntnisse diesbezüglich zu beanspruchen, sind wir der Meinung, dass die Menschheit bald reagieren sollte. Es ist unklar, wie viel mehr Warnungen wir noch erhalten werden.

Weitere Informationen darüber, wie sich die Fähigkeiten der KI ohne große Vorwarnung kaskadenartig entwickeln könnten, finden Sie in Kapitel 1. Weitere Informationen zu modernen KI-Paradigmen und dazu, ob sie "den ganzen Weg gehen" können oder nicht, finden Sie in Kapitel 2.

Seien Sie misstrauisch gegenüber Medienberichten darüber, was bald passieren kann und was nicht. (Vielleicht ist es ja schon passiert!)

Zwei Jahre nach Wilbur Wrights enttäuschter Vorhersage, dass der Motorflug noch tausend Jahre auf sich warten lassen würde, behauptete die New York Times selbstbewusst, es würde eine Million Jahre dauern. Zwei Monate und acht Tage später flogen die Gebrüder Wright.

Auch heute noch äußern Skeptiker übertriebene Behauptungen, dass KI niemals mit bestimmten Fähigkeiten des Menschen konkurrieren könne, obwohl die jüngsten Fortschritte im Bereich des maschinellen Lernens zeigen, dass KI in einer wachsenden Zahl von Benchmarks die menschliche Leistungsfähigkeit erreicht (oder sogar übertrifft). So ist beispielsweise seit mindestens Ende 2024 bekannt, dass moderne KI oft Sarkasmus und Ironie aus Texten und sogar nonverbalen Hinweisen erkennen kann. Das hinderte die New York Times jedoch nicht daran, im Mai 2025 erneut zu behaupten, dass "Wissenschaftler keine eindeutigen Beweise dafür haben, dass die heutigen Technologien in der Lage sind, auch nur einige der einfacheren Dinge zu leisten, die das Gehirn kann, wie zum Beispiel Ironie zu erkennen".^*

All dies bedeutet: Viele werden behaupten, zu wissen, dass eine KI, die intelligenter ist als der Mensch, unmittelbar bevorsteht oder dass sie in unvorstellbarer Ferne liegt. Die unangenehme Realität ist jedoch, dass derzeit niemand dies weiß.

Schlimmer noch, es besteht eine große Wahrscheinlichkeit, dass niemand es jemals erfahren wird, bis es für die internationale Gemeinschaft zu spät ist, etwas in dieser Angelegenheit zu unternehmen.

Es ist unglaublich schwierig, den Zeitpunkt des nächsten technologischen Durchbruchs vorherzusagen. Wir wissen, dass eine KI, die intelligenter ist als der Mensch, eine tödliche Gefahr ist. Wenn wir aber zusätzlich auch wissen müssen, an welchem Tag der Woche sie erscheinen wird, dann haben wir Pech gehabt. Wir müssen in der Lage sein, aus einer Position der Unsicherheit heraus zu handeln, sonst werden wir gar nicht handeln.

Notes