Das Szenario, das wir in Teil II beschreiben, ist keine Vorhersage. Es gibt viele andere Möglichkeiten, wie die Zukunft verlaufen könnte, und eine längere Version von If Anyone Builds It, Everyone Dies: Warum eine superintelligente KI uns alle vernichten würdehätte mehrere mögliche Szenarien untersucht. Im Folgenden gehen wir auf einige der Gründe ein, warum wir das Szenario so geschrieben haben, wie wir es getan haben, und beschreiben verschiedene Probleme, die bei der Skizzierung eines solchen Szenarios auftreten.

Geschichten können auf eine Weise fesselnd sein, wie es trockene Argumente nicht können, und wir glauben, dass es sinnvoll ist, sich konkret vorzustellen, wie die Zukunft aussehen könnte. Wir halten es jedoch auch für wichtig, sich nicht zu sehr auf eine bestimmte Erzählung zu fixieren. Jede Entscheidung, die wir beim Schreiben des Szenarios treffen, mag für sich genommen plausibel erscheinen, aber es braucht nicht viele Entscheidungen, bis die Gesamtwahrscheinlichkeit für einen bestimmten Weg sehr gering wird. So sieht es aus, wenn die Zukunft viele schwierige Entscheidungen bereithält.

Es gibt jedoch viele Fälle, in denen das Ergebnis besser vorhersehbar ist als der Weg dorthin, da viele Wege zum gleichen Ziel führen. In dem beschriebenen Szenario stellen wir mehrere verschiedene Optionen vor, um zu veranschaulichen, dass die Geschichte, egal wie sie verläuft, zu keinem guten Ende führt.