L'allineamento SIA è la sfida di ottenere un lavoro utile da una superintelligenza artificiale (SIA), in modo affidabile e senza causare una catastrofe. Sembra una sfida molto difficile a causa di vari aspetti intrinseci del problema.

Le domande frequenti qui sotto rispondono a quesiti di approfondimento per chi ha letto il capitolo 10 di Prima che sia troppo tardi. Nelle domande frequenti approfondiremo quanto siano informativi i vari confronti storici e considereremo proposte per scenari che potrebbero rendere il problema più facile. Gli argomenti che non tratteremo qui, per evitare di ripetere quanto già detto nel libro, includono:

• Cosa rende difficile un problema ingegneristico?
• Quali tipi di problemi difficili ha affrontato l'umanità nella sua storia e quali lezioni possiamo imparare da essi quando pensiamo al percorso verso la SIA?
• Se si sa fin dall'inizio che si sta affrontando un problema difficile, cosa si può fare? Come ci si dovrebbe comportare diversamente quando si affronta un problema davvero difficile?

Nella discussione approfondita, esaminiamo in che senso avremo una sola possibilità per l'allineamento e discutiamo di come molte teorie e conoscenze siano state necessarie per rendere il primo reattore nucleare al mondo così sicuro.