È di gran lunga più probabile che l'IA uccida tutti.

In queste risorse online, siamo pronti a considerare una vasta gamma di scenari strani e improbabili, per spiegare perché pensiamo che siano improbabili e perché (nella maggior parte dei casi) sarebbero comunque catastrofici per l'umanità.

Non pensiamo però che questi scenari di nicchia debbano distrarre dal punto principale. Il risultato più probabile, se ci affrettiamo a creare un'intelligenza artificiale più intelligente dell'uomo, è che l'IA consumi le risorse della Terra per perseguire qualche suo scopo, spazzando via l'umanità nel processo.

Il titolo del libro non vuole comunicare una certezza assoluta. Intendiamo il titolo del libro come qualcuno che vede un amico portare alle labbra una fiala di veleno e grida: "Non berlo! Morirai!".

Sì, tecnicamente è possibile che veniate portati d'urgenza in ospedale e che un medico geniale inventi una cura miracolosa senza precedenti che vi lasci solo paralizzati dal collo in giù. Non stiamo dicendo che non esista alcuna possibilità di miracoli. Ma se persino i miracoli non portano a risultati particolarmente buoni, allora sembra ancora più chiaro che non dovremmo bere il veleno.

L'IA più intelligente dell'uomo non è un gioco o una storia di fantascienza. I nostri cari (con altissima probabilità) moriranno se la comunità internazionale non interviene per impedire all'industria dell'IA di gettarsi da un precipizio. Possiamo continuare a discutere di sotto-scenari e sotto-sotto-scenari sempre più di nicchia, giocando a fare i filosofi sul ponte del Titanic mentre l'iceberg, enorme e ovvio, si avvicina. Oppure possiamo provare a cambiare rotta.