Es ist überwältigend wahrscheinlicher, dass KI alle Menschen tötet.

In diesen Online-Ressourcen sind wir bereit, uns mit einer Vielzahl von seltsamen und unwahrscheinlichen Szenarien auseinanderzusetzen, um zu erklären, warum wir sie für unwahrscheinlich halten und warum sie (in den meisten Fällen) dennoch katastrophale Folgen für die Menschheit hätten.

Wir glauben jedoch nicht, dass diese Nischenszenarien von der Schlagzeile ablenken sollten. Das wahrscheinlichste Ergebnis, wenn wir uns darauf stürzen, eine KI zu entwickeln, die intelligenter ist als der Mensch, ist, dass die KI die Ressourcen der Erde für irgendein Ziel verbraucht und dabei die Menschheit auslöscht.

Der Buchtitel soll keine vollständige Gewissheit vermitteln. Wir meinen den Buchtitel in der Art, wie jemand, der einen Freund sieht, der eine Flasche Gift an die Lippen hebt, und ruft: "Trink das nicht! Du wirst sterben!"

Ja, es ist technisch möglich, dass Sie ins Krankenhaus gebracht werden und dass ein genialer Arzt ein beispielloses Wundermittel zusammenbraut, das Sie lediglich vom Hals abwärts gelähmt zurücklässt. Wir sagen nicht, dass Wunder unmöglich sind. Aber wenn selbst Wunder nicht zu besonders guten Ergebnissen führen, dann scheint es umso klarer, dass wir das Gift nicht trinken sollten.

Eine KI, die intelligenter ist als der Mensch, ist kein Spiel und keine Science-Fiction-Geschichte. Unsere realen Familien werden (mit sehr hoher Wahrscheinlichkeit) sterben, wenn die internationale Gemeinschaft nicht eingreift und die KI-Industrie davon abhält, sich selbst ins Verderben zu stürzen. Wir können über immer speziellere Unterszenarien und Unterszenarien diskutieren und philosophische Spielchen auf dem Deck der Titanic spielen, während sich der extrem offensichtliche Eisberg nähert. Oder wir können versuchen, das Ruder herumzureißen.