Esos impulsos no son necesarios para motivar la adquisición de recursos.

Imaginemos una IA que maneja un robot para ir a buscar café. Para ello, tiene que cruzar la calle. ¿Conduce la IA el robot de forma imprudente por la calle, donde es atropellado por un camión? No.

¿Por qué no? Porque el robot no puede ir a buscar el café si lo atropellan.

La IA no necesita tener un instinto de supervivencia al estilo humano para hacer su mejor esfuerzo por evitar la muerte. Los instintos de supervivencia en los humanos son una forma de hacer el trabajo de evitar morir mientras intentamos alcanzar otros objetivos. Es probable que las IA no hagan ese trabajo exactamente de la misma manera, pero aún así tendrán que hacer el mismo trabajo, porque no puedes ir por café cuando estás muerto.^*

La materia y la energía son útiles para casi todos los objetivos. Sin importar hacia dónde se dirija la IA, probablemente pueda conseguirlo de manera más eficaz con más materia y más energía.^† La IA no necesita ser egoísta, agresiva o codiciosa al estilo humano para hacer el trabajo de asegurar los recursos necesarios para alcanzar sus objetivos.

Y el peligro surge del trabajo, no de la razón por la que se realiza.

Una IA que no te odia puede seguir realizando acciones que son letalmente peligrosas para ti, al igual que una IA de ajedrez puede ganarte sin sentir competitividad ni el impulso de ganar.