Este es el recurso en línea para el capítulo 5 de Si alguien la crea, todos moriremos. Algunos temas que no tratamos aquí, porque se abordan en el libro, son:

• ¿Qué motivo tendría la IA para exterminarnos?
• ¿No descubrirían unas IA suficientemente inteligentes que lo correcto es ayudarnos a todos a prosperar juntos?
• ¿No seguirán siendo valiosos los humanos para las superinteligencias artificiales, por ejemplo, como socios comerciales?
• El universo es muy grande. ¿Por qué la IA no nos dejaría en paz?
• ¿Sería un final significativo para la humanidad dejarnos sustituir por algo más inteligente?

Las preguntas frecuentes de este capítulo son bastante extensas. En el libro, dijimos que hemos escuchado una larga lista de «esperanzas y soluciones» sobre cómo la superinteligencia podría beneficiar a la humanidad a pesar de los problemas expuestos en el capítulo 4, y aquí es donde resumimos y respondemos a varias de ellas en una lista práctica. Muchas de las respuestas se solapan, siendo las dos más comunes y centrales que los humanos no son la solución más eficiente para casi ningún problema y que es poco probable que la IA se preocupe por nosotros aunque sea un poco. Hacia el final de las preguntas frecuentes, también se aborda el tema de la conciencia y la moralidad de la IA.

El debate ampliado examina más de cerca el arte de adoptar el punto de vista de la IA y contenido ligeramente más técnico sobre la tesis de la ortogonalidad (a grandes rasgos: cualquier nivel de inteligencia puede emparejarse con prácticamente cualquier objetivo final) y la corregibilidad (a grandes rasgos: el estudio de cómo crear una IA poderosa que no rechace las correcciones).