Diese Triebe sind nicht notwendig, um die Beschaffung von Ressourcen zu motivieren.

Stellen Sie sich eine KI vor, die einen Roboter steuert, um Kaffee zu holen. Um den Kaffee zu holen, muss er die Straße überqueren. Fährt die KI den Roboter rücksichtslos auf die Straße, wo er von einem Lkw überfahren wird? Nein.

Warum nicht? Weil der Roboter den Kaffee nicht holen kann, wenn er zerstört wird.

Die KI braucht keinen menschlichen Überlebensinstinkt, um ihr Bestes zu tun, um den Tod zu vermeiden. Der Überlebensinstinkt des Menschen ist eine Möglichkeit, den Tod zu vermeiden, während wir versuchen, andere Ziele zu erreichen. KIs werden diese Aufgabe wahrscheinlich nicht auf genau die gleiche Weise erfüllen, aber sie müssen dennoch die gleiche Aufgabe erfüllen, denn wenn man tot ist, kann man keinen Kaffee holen.^*

Materie und Energie sind für fast jedes Ziel nützlich. Egal, was die KI anstrebt, mit mehr Materie und mehr Energie kann sie es wahrscheinlich effektiver erreichen.^† Die KI muss nicht egoistisch, aggressiv oder gierig wie ein Mensch sein, um sich die Ressourcen zu sichern, die sie zur Erreichung ihrer Ziele benötigt.

Und die Gefahr entsteht durch die Arbeit, nicht durch den Grund, aus dem die Arbeit verrichtet wird.

Eine KI, die Sie nicht hasst, kann dennoch Maßnahmen ergreifen, die für Sie tödlich gefährlich sind, genauso wie eine Schach-KI Sie im Schach schlagen kann, ohne dass sie dabei Wettbewerbsdenken oder Siegeswillen verspürt.