Quanto potrebbe diventare intelligente una superintelligenza?
Molto intelligente.
Per ogni punto dell'elenco del Capitolo 1 sui motivi per cui i cervelli umani non sono vicini ai limiti delle possibilità fisiche, le macchine potrebbero avvicinarsi a quei limiti.
Le leggi della fisica permettono l'esistenza di geni che pensano decine di migliaia (se non milioni o miliardi) di volte più velocemente degli esseri umani,* che non hanno mai bisogno di dormire o mangiare e che possono creare copie di loro stessi e scambiarsi esperienze.
E questo senza nemmeno considerare i miglioramenti alla qualità della cognizione di un'IA.
Anche se l'IA fosse fortemente superiore agli esseri umani solo in una o due dimensioni, questo potrebbe bastare per un vantaggio decisivo. Nel corso della storia, gruppi di esseri umani hanno ripetutamente sfruttato vantaggi relativamente piccoli nella scienza, nella tecnologia e nella pianificazione strategica per raggiungere posizioni dominanti su altri gruppi. Si pensi, per esempio, ai conquistadores spagnoli. E questo senza grandi differenze nell'architettura o nelle dimensioni del cervello.
Anche piccoli vantaggi intellettuali possono tradursi in grandi vantaggi pratici, e anche piccoli vantaggi possono accumularsi estremamente velocemente. Ma i probabili vantaggi dell'IA sembrano tutt'altro che piccoli.
Per ulteriori argomentazioni sul fatto che questo livello di intelligenza sia importante, cioè che possa tradursi in potere nel mondo reale, si veda il Capitolo 6.
* Nel capitolo 1 abbiamo notato che i transistor dei computer possono accendersi e spegnersi miliardi di volte al secondo, mentre anche i neuroni biologici più veloci si attivano solo un centinaio di volte al secondo. Questo suggerisce che, con l'hardware attuale, anche se occorressero mille operazioni dei transistor per fare lo stesso lavoro di un picco neurale, le IA potrebbero comunque pensare 10.000 volte più velocemente di un essere umano.