Este es el recurso en línea para el capítulo 4 de Si alguien la crea, todos moriremos. Algunas de las preguntas que tratamos implícitamente en dicho capítulo (y que, por lo tanto, omitimos a continuación) incluyen:

• ¿Qué querrán las IA?
• ¿Por qué una IA entrenada para ser útil acabaría queriendo cosas «equivocadas»? ¿No sería eso una desventaja que se eliminaría durante el entrenamiento?
• ¿En qué se diferencia el descenso de gradiente de la selección natural? ¿Qué dice eso sobre cómo resultarán los deseos de la IA?
• ¿Qué hay de malo en que las IA terminen teniendo preferencias extrañas?

A continuación, abordamos una serie de temas relacionados con «¿Por qué no es fácil hacer que las IA sean buenas?».