Influisce tantissimo sulle nostre priorità.

Nel 2014, Soares ha lasciato il settore tecnologico e ha deciso di dedicarsi a questo problema, prendendo un terzo del suo stipendio precedente, perché gli sembrava importante e perché poche altre persone ci stavano lavorando. E lui era in ritardo di oltre un decennio rispetto a Yudkowsky, che ha fondato il MIRI nel 2000 quando aveva circa vent'anni, e ha dedicato la sua vita a questa questione. Quindi, sì, questo problema influisce sulla nostra vita quotidiana.

Stiamo risparmiando per la pensione? I nostri investimenti e altri fattori esterni al MIRI stanno andando abbastanza bene da garantirci stabilità finanziaria anche se andassimo in pensione domani e anche se il mondo durasse fino alla nostra vecchiaia. Quindi la domanda se stiamo investendo i nostri soldi in piani pensionistici non è molto significativa. Detto questo: no, non stiamo investendo i nostri soldi in piani pensionistici.

Ad alcune persone piace dire che se credessimo davvero a quello che diciamo, allora (oltre a dedicarci la nostra vita) dovremmo anche [inserire qualche piano che secondo loro è la risposta giusta]. Perché non prendere dei prestiti enormi di trent'anni che non dovremo mai restituire, se siamo così sicuri che il mondo finirà prima di allora?

La risposta, ovviamente, è che queste sono cattive idee. Supponiamo di andare in una banca e dire: "Vorremmo contrarre un prestito molto ingente. Lo spenderemo tutto in progetti per far capire al mondo il pericolo della superintelligenza artificiale e/o in uno stile di vita lussuoso, che dal vostro punto di vista sarà più o meno equivalente a dare fuoco ai soldi. Il nostro piano per ripagarlo con gli interessi è che prevediamo di essere morti, quindi non sarà un nostro problema". Nessuna banca concederebbe un prestito del genere. E no, non fingeremo di avere un'idea imprenditoriale valida e mentiremo sulla possibilità di ripagare il prestito.

Yudkowsky ha descritto altrove uno schemaricorrenteche notiamo, in cui l'insistenza nel seguire un piano apparentemente ovvio per arricchirsi rapidamente prima della fine del mondo deriva da una comprensione inadeguata degli investimenti. Ci aspettiamo che queste persone non si stiano chiedendo se loro stessi farebbero queste scommesse se avessero le nostre convinzioni. Quasi mai sono le persone che comprendono realmente i rischi a suggerire questi piani stravaganti.

Vivere all'ombra dell'annientamento non deve rendervi stupidi. E non deve farvi rinunciare a combattere l'annientamento, o a vivere pienamente la vita che avete, qualunque sia il tempo per cui l'avrete.

Si veda anche la parte finale del libro per ulteriori informazioni su questo argomento.