Questa è la risorsa online per il Capitolo 5 di Prima che sia troppo tardi. Alcuni argomenti che non trattiamo in questa pagina, perché sono affrontati nel libro, includono:

• Quale motivazione avrebbe l'IA per spazzarci via?
• Le IA sufficientemente intelligenti non scopriranno che la cosa giusta da fare è aiutarci a prosperare tutti insieme?
• Gli esseri umani non saranno ancora preziosi per le IA superintelligenti, ad esempio come partner commerciali?
• L'universo è grande. Perché l'IA non dovrebbe semplicemente lasciarci in pace?
• Sarebbe una fine significativa per l'umanità lasciarsi sostituire da qualcosa di più intelligente?

Le domande frequenti per questo capitolo sono piuttosto lunghe. Nel libro abbiamo detto che ci è giunta alle orecchie una lunga lista di "speranze e strategie di adattamento" su come la superintelligenza artificiale potrebbe essere benefica per l'umanità nonostante i problemi esposti nel Capitolo 4, e questo è il luogo in cui riassumiamo e rispondiamo a varie di esse in un comodo elenco. Molte delle risposte si sovrappongono, con due delle repliche più comuni e centrali che sono gli esseri umani non sono quasi mai la soluzione più efficiente ed è improbabile che l'IA si preoccupi di noi anche solo un po'. Verso la fine delle domande frequenti, discutiamo anche l'argomento della coscienza e moralità dell'IA.

La discussione approfondita esamina più da vicino l'arte di vedere le cose dal punto di vista dell'IA e contenuti leggermente più tecnici sulla tesi dell'ortogonalità (in sostanza: qualsiasi livello di intelligenza può essere abbinato a quasi qualsiasi obiettivo finale) e la correggibilità (in sostanza: lo studio di come creare un'IA potente che non rifiuti le correzioni).