Questa è la risorsa online per il Capitolo 4 di Prima che sia troppo tardi. Alcune delle domande che trattiamo implicitamente in quel capitolo (e che quindi saltiamo qui sotto) includono:

• Cosa vorranno le IA?
• Perché un'IA addestrata per essere utile dovrebbe finire per volere le cose "sbagliate"? Non sarebbe uno svantaggio che verrebbe eliminato durante l'addestramento?
• In che modo la discesa a gradiente differisce dalla selezione naturale? Cosa ci dice questo su come si evolveranno i desideri dell'IA?
• Che male c'è se le IA finiscono per avere preferenze strane?

Di seguito, trattiamo diversi argomenti relativi alla domanda "Perché non è facile rendere simpatiche le IA?".