Afecta drásticamente nuestras prioridades.

En 2014, Soares dejó la industria tecnológica y aceptó un tercio de su salario anterior para trabajar en este problema, porque le parecía importante y porque pocas personas trabajaban en él. Y llevaba más de una década de retraso con respecto a Yudkowsky, que fundó MIRI en 2000, cuando tenía unos veinte años, y ha dedicado su vida a esta cuestión. De modo que sí, afecta nuestra vida cotidiana.

¿Estamos ahorrando para la jubilación? Nuestras inversiones y otros factores ajenos a MIRI van tan bien que estaríamos bien económicamente incluso si nos jubiláramos mañana, y si el mundo durara hasta nuestra vejez. Por lo tanto, la pregunta de si estamos invirtiendo nuestro dinero en planes 401(k) no es muy informativa. Dicho esto: no, no estamos invirtiendo nuestro dinero en planes 401(k).

A algunas personas les gusta decir que si realmente creyéramos en lo que decimos, entonces (además de dedicar nuestras vidas a ello) también estaríamos [insertar algún plan que creen que constituye una respuesta adecuada]. Si estamos tan seguros de que el mundo se acabará pronto, ¿por qué no pedimos cuantiosos préstamos a treinta años que nunca tendremos que pagar?

La respuesta, por supuesto, es que son malas ideas. Supongamos que fuéramos a un banco y dijéramos: «Nos gustaría solicitar un préstamo muy grande. Vamos a gastarlo todo en planes para que el mundo se dé cuenta del peligro de la superinteligencia artificial y/o en un estilo de vida lujoso, lo que desde su perspectiva será más o menos equivalente a quemar el dinero. Nuestro plan para pagarlo con intereses es que esperamos estar muertos, por lo que no será nuestro problema». Ningún banco nos va a conceder ese préstamo. Y no, no vamos a fingir que tenemos una idea de negocio viable y mentir en cuanto a que pagaremos el préstamo.

Yudkowsky ha descrito en otra parte un patrónque vemos, en el que la insistencia en que sigamos un plan supuestamente obvio para hacernos ricos rápidamente antes del fin del mundo proviene de un entendimiento nulo sobre inversiones. Suponemos que estas personas no se detienen a pensar si ellas mismas harían estas apuestas si tuvieran nuestras creencias. Casi nunca son las personas que realmente comprenden los riesgos las que sugieren estos planes descabellados.

Vivir a la sombra de la aniquilación no tiene por qué hacerte estúpido. Tampoco tiene por qué hacerte renunciar a luchar contra la aniquilación, ni a dejar de vivir plenamente la vida que tienes por el tiempo que dure.

Consúltese también la parte final del libro para más información sobre este tema.