Questi impulsi non sono necessari per motivare l'acquisizione di risorse.

Immaginate un'IA che guida un robot per andare a prendere un caffè. Per farlo, deve attraversare la strada. L'IA guiderà senza cautela il robot in mezzo alla carreggiata, dove verrà investito da un camion? No.

Perché no? Perché il robot non può andare a prendere il caffè se viene distrutto.

L'IA non ha bisogno di avere un istinto di sopravvivenza di tipo umano per fare del suo meglio per evitare la morte. Gli istinti di sopravvivenza negli esseri umani sono un modo di svolgere il lavoro di evitare di morire mentre cerchiamo di raggiungere altri obiettivi. Le IA probabilmente non svolgeranno quel lavoro esattamente nello stesso modo, ma dovranno comunque svolgere lo stesso lavoro, perché non si può andare a prendere il caffè quando si è morti.^*

La materia e l'energia sono utili per quasi ogni obiettivo. Qualunque cosa l'IA stia perseguendo, probabilmente può ottenerla in modo più efficace con più materia e più energia.^† L'IA non ha bisogno di essere egoista, aggressiva o avida alla maniera di un umano per svolgere il lavoro di assicurarsi le risorse per raggiungere i suoi obiettivi.

E il pericolo deriva dal lavoro, non dalla ragione per cui il lavoro viene svolto.

Un'IA che non vi odia può comunque intraprendere azioni letalmente pericolose per voi, proprio come un'IA scacchistica può stracciarvi a scacchi senza sentirsi competitiva o spinta a vincere.