La alineación de la SIA es el desafío de conseguir que una superinteligencia artificial (SIA) realice un trabajo útil de forma fiable y sin causar una catástrofe. Se trata de un desafío muy difícil debido a varios aspectos inherentes al problema.

Las preguntas frecuentes que figuran a continuación abordan preguntas de seguimiento para quienes hayan leído el capítulo 10 de Si alguien la crea, todos moriremos. En ellas, profundizaremos en lo informativas que resultan diversas comparaciones históricas y analizaremos propuestas de escenarios que podrían facilitar el problema. Los temas que no trataremos aquí, para evitar repetir el contenido del libro, incluyen:

• ¿Qué hace que un problema de ingeniería sea difícil?
• ¿Qué tipo de problemas difíciles ha enfrentado la humanidad a lo largo de su historia y qué lecciones podemos aprender de ellos al pensar en el camino hacia la SIA?
• Si sabes de antemano que te enfrentas a un problema difícil, ¿qué puedes hacer? ¿Qué se debe hacer diferente ante un problema realmente difícil?

En el debate ampliado, analizamos por qué solo tendremos una oportunidad para la alineación y la gran cantidad de teoría y conocimiento que se necesitó para que el primer reactor nuclear del mundo fuera tan seguro como lo fue.