Perché la situazione sembra davvero seria e urgente.

Se si esamina attentamente un certo argomento, a volte si può riuscire a prevedere un colpo di scena della storia.

Nel 1933, un fisico di nome Leo Szilard fu il primo a capire che le reazioni nucleari a catena fossero possibili.^* In questo modo, riuscì a prevedere un colpo di scena della storia prima di chiunque altro.

Pensiamo che se, oggi, si guarda l'intelligenza artificiale dal punto di vista giusto, si possa prevedere un colpo di scena della storia. E pensiamo che le cose andranno male se l'umanità non cambia rotta.

I laboratori di IA sono in gara per costruire macchine più intelligenti di qualsiasi essere umano e, a quanto pare, stanno facendo progressi significativi nel far avanzare la frontiera. Come vedremo nei prossimi capitoli, le IA moderne vengono più fatte crescere che costruite. Esse mostrano comportamenti che nessuno ha chiesto né voluto, e sono sulla buona strada per diventare più competenti di qualsiasi essere umano. Questa ci sembra una situazione estremamente pericolosa.

I migliori scienziati del settore si sono riuniti per firmare una lettera aperta in cui avvertono il pubblico che la minaccia dell'intelligenza artificiale dovrebbe essere considerata una "priorità globale al pari di altri rischi su scala sociale come le pandemie e la guerra nucleare". Non si tratta di una preoccupazione isolata, ma condivisa da quasi la metà degli esperti del settore. Anche se inizialmente siete scettici sui pericoli, speriamo che il livello di preoccupazione espresso dagli esperti di IA e l'alta posta in gioco, se queste preoccupazioni dovessero rivelarsi fondate, chiariscano perché questo è un argomento che merita di essere discusso seriamente.

Questo è un argomento in cui dovremmo soppesare le argomentazioni invece di seguire semplicemente il nostro istinto. Se le lettere e gli avvertimenti sono corretti, il mondo si è messo in una situazione incredibilmente pericolosa. Dedicheremo il resto del libro a esporre le argomentazioni e le prove alla base di tali avvertimenti.

Non pensiamo che la situazione sia disperata. Abbiamo scritto questo libro con la speranza di cambiare la traiettoria che l'umanità sembra aver intrapreso, perché pensiamo che ci sia speranza di poter risolvere questo problema.

Il primo passo per risolvere un problema è capirlo.