Dies ist die Online-Ressource für Kapitel 5 von If Anyone Builds It, Everyone Dies: Warum eine superintelligente KI uns alle vernichten würde. Einige Themen, die wir auf dieser Seite nicht behandeln, da sie im Buch behandelt werden, sind:

• Welches Motiv hätte KI, uns auszulöschen?
• Werden ausreichend intelligente KIs nicht erkennen, dass es das Richtige ist, uns allen zu helfen, gemeinsam zu gedeihen?
• Wären Menschen für superintelligente KI nicht weiterhin wertvoll, z. B. als Handelspartner?
• Das Universum ist groß. Warum sollte KI uns nicht einfach in Ruhe lassen?
• Wäre es ein sinnvolles Ende der Menschheit, uns durch etwas Intelligenteres ersetzen zu lassen?

In dem Buch haben wir gesagt, dass wir eine lange Liste von Hoffnungen und Bewältigungsstrategien gehört haben, dass Superintelligenz der Menschheit trotz der in Kapitel 4 beschriebenen Probleme zugute kommen könnte. An dieser Stelle fassen wir eine lange Liste davon zusammen und gehen darauf ein. Viele der Antworten überschneiden sich; zwei relativ zentrale Punkte, die wir ansprechen werden, sind, dass Menschen nicht die effizienteste Lösung für fast jedes Problem sind und dass KI sich wahrscheinlich nicht im Geringsten um uns kümmern wird. An dieser Stelle werden wir auch auf das Thema KI-Bewusstsein und Moral eingehen.